《大规模分布式计算深入解析》11.3 恢复策略与重启

failover范围由数据分区与策略决定,完成点保留和重启容忍分别配置。

11.3 恢复策略与重启

执行attempt失败后,调度器先确定应取消/重启的任务范围,再为该范围恢复状态与输入。全局、区域或批阶段重算有适用条件,不能只靠“有分支”判断收益。

分区可用性定义恢复边界

流水线结果通常与生产者/消费者共同生命周期绑定;阻塞结果若仍可用,下游恢复可能直接复用。上游结果已丢失则要递归重算所需生产者。典型无界流作业可能连成一个大区域,但这不是所有Flink拓扑的无条件全局规则。

区域恢复也不意味着可随意拼接不同checkpoint的状态。运行时要根据一致恢复合同装载状态、位点和必要通道数据;外部结果由sink处理。

策略、时间和完成点分开

固定延迟、失败率、指数退避等策略按固定版本配置解释;重启次数/窗口与checkpoint失败容忍不是一个计数器。持续坏数据可能每次在同一位置失败,需要暴露错误、修正输入或明确旁路,不应靠无限重启掩盖。

恢复选择认可的完成点,不比较checkpoint ID和墙钟。ID100可以在某个时钟值50之前已经完成;同毫秒先后看事件记录。没有完成点时是否从头重启取决于源和策略,不能一律判为放弃。

范围与恢复流程 · 超时状态机 。

验收数据

保存原attempt、重启区域、恢复checkpoint ID、源恢复位点、外部事务ID、预期/实际结果。延迟分调度、下载、重建和追平,吞吐分毛速率和扣除新流量后的净追平速率;不能把1GiB下载的算例直接当总RTO。

实验与证据边界

原生CheckpointProbe注入完成后源异常,并比较恢复位点/状态结果;SemanticsProbe验证BATCH一次失败后重算。它们不验证多节点机架故障或全部region图形。

下载教学模型 · 原生探针 · 版本与运行说明 。Java 8 教学包在解包目录运行 javac -d out $(find src -name "*.java")、java -cp out lab.RunAll;它是有限模型,不是 Flink 实现的替代品。原生探针的具体断言、输出和未测范围以随包 README 为准。

一手实现对照

failover · checkpoints · modes

继续阅读

探索更多技术文章

浏览归档,发现更多关于系统设计、工具链和工程实践的内容。

全部文章 返回首页

「books」更多文章

  1. 《大规模分布式计算深入解析·向量数据库与 AI 检索内核》 · 目录与学习路径(45 篇)
  2. 《大规模分布式计算深入解析》15.3 自研向量引擎:可执行骨架与工程缺口
  3. 《大规模分布式计算深入解析》14.1 Milvus:组件架构、段管理与检索链路