《大规模分布式计算深入解析》6.3 推测执行与黑名单

推测以Stage完成比例、运行耗时和效率路径选候选;副本用共同时间轴竞争,授权与外部副作用分别处理。

6.3 推测执行与黑名单

触发条件的单位

3.5.7常规推测路径中,spark.speculation.quantile=0.75表示该Stage需有相应比例任务成功完成,不是每个慢task已完成75%工作。使用成功任务耗时中位数、multiplier及minTaskRuntime等判定;效率检查、少任务显式阈值、decommission和barrier等分支还会改变条件。

在常规路径的有限模型中,4个任务只完成2个,不满足0.75;完成3个才进入耗时判断。已有多个副本或barrier时不按该简化路径再起一个。inefficient作为显式输入,不能假装模型已经实现真实运行速率采样。

共同时间轴才决定先后

attempt启动耗时完成
原任务010001000
推测副本9008001700

副本单独耗时更短却更晚完成。min(duration)无法判断胜者;测试按start+duration并检测溢出。同一时刻完成时还需区分结果采用和具体提交授权事件,不是按attempt号越小或越大固定获胜。

取消与提交

Scheduler可能尝试取消未采用副本,但它此前已发出的外部写入仍可能可见。OutputCommitCoordinator为特定输出路径管理每分区授权,不对任意外部系统或整作业提供自动去重和原子快照。

节点排除也不只比较一个总失败次数:任务、TaskSet、Executor、节点及应用层的阈值、过期与故障归因不同。应使用3.5.7 excludeOnFailure配置及源码解释,旧blacklist名称只能作历史术语。

推测适合偶发慢任务;若同一热点数据在每个副本都很大,额外副本可能只争抢资源。Stage墙钟含排队波次,不能由max(duration)推断整体资源闲置。





架构与流程

sequenceDiagram
    participant S as Scheduler
    participant P as 原任务
    participant R as 推测副本
    participant C as 提交授权/所选committer
    S->>P: t0启动,实际耗时1000
    Note over S: 检查完成比例、成功耗时及效率等条件
    S->>R: t900启动,实际耗时800
    P->>C: t1000完成并请求授权/提交
    C-->>P: 依据当前阶段状态授权
    S->>R: 尝试取消;外部已执行效果不能靠取消撤销
    Note over R: 若继续则t1700才完成

实现与验证范围

模型实现常规候选条件的明确子集与共享时间轴;不实现完整效率采样、节点排除和取消协议。

教学入口:exec.ExecSuite。公开包中运行 python3 run_models.py;固定产品入口另运行 python3 run_native.py。以README的实际汇总及范围为准,原生依赖首次联网解析。

下载卷二实验包 · 实验运行

一手资料

卷二目录 · 系列导读

继续阅读

探索更多技术文章

浏览归档,发现更多关于系统设计、工具链和工程实践的内容。

全部文章 返回首页

「books」更多文章

  1. 《大规模分布式计算深入解析·向量数据库与 AI 检索内核》 · 目录与学习路径(45 篇)
  2. 《大规模分布式计算深入解析》15.3 自研向量引擎:可执行骨架与工程缺口
  3. 《大规模分布式计算深入解析》14.1 Milvus:组件架构、段管理与检索链路