6.3 推测执行与黑名单
触发条件的单位
3.5.7常规推测路径中,spark.speculation.quantile=0.75表示该Stage需有相应比例任务成功完成,不是每个慢task已完成75%工作。使用成功任务耗时中位数、multiplier及minTaskRuntime等判定;效率检查、少任务显式阈值、decommission和barrier等分支还会改变条件。
在常规路径的有限模型中,4个任务只完成2个,不满足0.75;完成3个才进入耗时判断。已有多个副本或barrier时不按该简化路径再起一个。inefficient作为显式输入,不能假装模型已经实现真实运行速率采样。
共同时间轴才决定先后
| attempt | 启动 | 耗时 | 完成 |
|---|---|---|---|
| 原任务 | 0 | 1000 | 1000 |
| 推测副本 | 900 | 800 | 1700 |
副本单独耗时更短却更晚完成。min(duration)无法判断胜者;测试按start+duration并检测溢出。同一时刻完成时还需区分结果采用和具体提交授权事件,不是按attempt号越小或越大固定获胜。
取消与提交
Scheduler可能尝试取消未采用副本,但它此前已发出的外部写入仍可能可见。OutputCommitCoordinator为特定输出路径管理每分区授权,不对任意外部系统或整作业提供自动去重和原子快照。
节点排除也不只比较一个总失败次数:任务、TaskSet、Executor、节点及应用层的阈值、过期与故障归因不同。应使用3.5.7 excludeOnFailure配置及源码解释,旧blacklist名称只能作历史术语。
推测适合偶发慢任务;若同一热点数据在每个副本都很大,额外副本可能只争抢资源。Stage墙钟含排队波次,不能由max(duration)推断整体资源闲置。
架构与流程
sequenceDiagram
participant S as Scheduler
participant P as 原任务
participant R as 推测副本
participant C as 提交授权/所选committer
S->>P: t0启动,实际耗时1000
Note over S: 检查完成比例、成功耗时及效率等条件
S->>R: t900启动,实际耗时800
P->>C: t1000完成并请求授权/提交
C-->>P: 依据当前阶段状态授权
S->>R: 尝试取消;外部已执行效果不能靠取消撤销
Note over R: 若继续则t1700才完成
实现与验证范围
模型实现常规候选条件的明确子集与共享时间轴;不实现完整效率采样、节点排除和取消协议。
教学入口:exec.ExecSuite。公开包中运行 python3 run_models.py;固定产品入口另运行 python3 run_native.py。以README的实际汇总及范围为准,原生依赖首次联网解析。
一手资料
继续阅读
探索更多技术文章
浏览归档,发现更多关于系统设计、工具链和工程实践的内容。