3.2 Reflector、DeltaFIFO 与 Indexer
client-go 的 informer 是控制器访问 apiserver 的标准组件。它不是一个大块头,而是三个职责清晰的组件各司其职。本节把 informer 拆开:Reflector 管网络、DeltaFIFO 管排队、Indexer 管缓存。
三组件分工
| 组件 | 职责 | 类比 |
|---|---|---|
| Reflector | list-watch 网络交互 | 拉货的司机 |
| DeltaFIFO | 增量去重、合并、排队 | 仓库的传送带 |
| Indexer | 对象建索引、可检索缓存 | 货架 |
数据流方向:Reflector 从 apiserver 拉事件 → 写 DeltaFIFO → worker 从 DeltaFIFO Pop → 更新 Indexer → 控制器读 Indexer。
Reflector:list-watch 的司机
Reflector 做且只做一件事:把 list-watch 协议变成「往 FIFO 里写增量」。
- 启动:执行一次 List,把全量对象以
Sync增量写入 DeltaFIFO,记录 RV。 - 运行:Watch 从该 RV 起,收到事件就转成
Added/Updated/Deleted增量写入 FIFO。 - 断连:watch 流断开或超时,按指数退避重新 List(不是只重连 watch)——这是保证不漏的关键(3.3 节)。
Reflector 对上层隐藏了协议细节:控制器不关心「这个对象是 List 来的还是 Watch 来的」,反正 FIFO 里的增量都带着对象与类型。
DeltaFIFO:去重与合并
DeltaFIFO 是 informer 的「传送带」,解决两个问题:
去重:同一个 key 在队列中只出现一次。控制器正忙着处理 Deployment
nginx,它又收到三次nginx的 Modified 事件——如果全入队,worker 会重复处理。FIFO 只保留一次。合并:同一 key 的连续增量可以合并。队列中的 key 带着「增量序列」,如
[Sync, Updated]。处理时 worker 看最新一条增量即可。规则:前一条 新一条 结果 非 Deleted 非 Deleted 合并,保留新值 Deleted Deleted 合并,保留新值 Deleted 非 Deleted 不合并(重建语义)
合并的收益:worker 处理一个 key 时,不必为每个事件都跑一遍 reconcile;同一对象在队列期间的多次变更压缩为一次处理。
Indexer:本地缓存与检索
worker 从 FIFO Pop 出增量后,把最新对象写入 Indexer:
- 按 key 覆盖(
nginx→ 最新对象)。 - 维护二级索引(如按 label):
label=app→ 全部匹配对象。
控制器查状态时读 Indexer:Get("nginx")、ListByLabel("app")。这比每次都打 apiserver 快几个数量级,也是「读放大消失」的载体(3.1 节)。
注意 Indexer 与 DeltaFIFO 的时序:FIFO 是「待处理」,Indexer 是「已处理」。同一个对象在两者之间流转:Reflector 写入 FIFO → worker Pop → 更新 Indexer。控制器永远读 Indexer(已处理的现实),不读 FIFO(待处理队列)。
协作时序:一次完整的同步
apiserver ──List──> Reflector ──Sync×N──> DeltaFIFO ──Pop──> worker ──Upsert──> Indexer
apiserver ──Watch──> Reflector ──Updated──> DeltaFIFO ──Pop──> worker ──Upsert──> Indexer
每次对象变化都走一遍这个管道。控制器的 reconcile 从 Indexer 读「最新现实」、从别的来源读「期望」,算出差异后写回 apiserver,写回又触发新一轮 watch——形成 1.1 节的级联。
HasSynced:什么算「缓存已就绪」
DeltaFIFO 有一个 HasSynced():报告「是否完成至少一次全量 List」。为什么重要?
- List 完成之前,Indexer 是空的或不全——此时控制器读到的「现实」不可靠。
- 控制器启动时会等
WaitForCacheSync:等所有 informerHasSynced才开跑。
这是控制器避免「用半截缓存做决策」的护栏:先同步全量,再开始调谐。
DeltaFIFO 的 Pop:为什么用「待处理队列」而非直接更新缓存
一个容易误解的设计:既然 Indexer 最终保存最新对象,为什么不直接「事件来了就更新 Indexer」?DeltaFIFO 在中间排队有什么必要?
理由有三:
- 背压与限速:apiserver 推送可能瞬时爆发(一次滚动更新产生几百个事件)。FIFO 把它们排队,worker 按自己的节奏消费——保护控制器不被事件洪峰压垮。
- 去重合并:同一 key 的多次变更在队列中合并为一条,避免 worker 重复处理。
- 重试语义:worker Pop 拿到一条增量后,「处理完再继续」。若处理失败,key 重新入队(卷二第 6 章 workqueue),队列语义保证「失败可重试」。
时序上,Indexer 是「已处理的成果」:worker 从 FIFO Pop → 处理 → 写 Indexer。控制器读 Indexer 时,它反映的是「已处理到哪」,而不是「收到哪些事件」。
共享 informer:为什么所有控制器共用一个缓存
一个 Deployment 控制器可能同时需要 Pod、ReplicaSet、Deployment 三类对象的 informer。如果每个控制器各自建一套 list-watch,N 个控制器就产生 N 套全量 List——读放大又回来了。
sharedInformer 的答案:一个资源类型只有一个 Reflector + DeltaFIFO + Indexer,多个控制器共享。
apiserver ──> 一个 Reflector(watch Pods)
│
├─> Indexer(共享缓存)── 控制器 A 读
│ └─ 控制器 B 读
└─> DeltaFIFO ──> 多个 worker(各自消费)
共享的收益:
- 一次 List、一次 Watch:N 个控制器订阅 Pod 只建立一条连接,不是 N 条。
- 缓存一份:内存占用从 N 份降到 1 份。
- 回调分发:informer 的
AddEventHandler把事件分发给所有注册的控制器,各控制器只拿自己关心的 key 入队。
代价是事件分发多一层间接——但相比「每个控制器一套全量同步」,共享是压倒性的正确选择。这也是 client-go 默认 informer 即 sharedInformer 的原因。理解这个结构,卷二第 13 章「自定义控制器」的 informer 复用就顺理成章了。
三个常见误解
- 「informer 就是 watch」——错误。watch 只是 Reflector 的一半;完整的 informer = list-watch + FIFO + 缓存。
- 「每个事件都触发一次 reconcile」——错误。DeltaFIFO 去重合并后,同一 key 在队列期间的多次变更只处理一次。
- 「Indexer 与 etcd 实时一致」——错误。Indexer 是异步更新的缓存;它滞后于 etcd,但通过 list-watch 保证「最终一致且不漏」。
DeltaFIFO 的 Pop 语义:阻塞、超时与重入
DeltaFIFO 的 Pop 不是「弹出一个元素」那么简单,它的语义值得精确:
- 阻塞:FIFO 为空时 Pop 阻塞(条件变量等待),直到有新增量或超时。
- 原子处理:Pop 把元素从队列摘出后,处理期间该 key 是「出队中」。若处理成功才真正消费;失败则 key 重新入队(AddRateLimited)。
- 顺序保证:同一 key 的增量在 FIFO 里保持相对顺序,不同 key 之间无顺序要求。
这个「摘出再处理」的语义是控制器正确性的关键:处理中崩溃不会丢 key(崩溃前 Pop 的元素在重启后重新同步),处理失败可重试。对照 workqueue(卷二第 6 章),DeltaFIFO 是「缓存同步的队列」,workqueue 是「reconcile 的队列」,两者职责不同但语义同源:都是「取出 → 处理 → 确认或重入」。
Indexer 的索引:不止 key 一种
Indexer 默认按 namespace/name 建 key 索引,但它的索引是可扩展的:
- 默认索引:
NamespaceIndex(按命名空间分桶)。 - 自定义索引:按 label、按 annotation、按任意字段。
ListByLabel这类 API 背后是二级索引。
二级索引的价值:控制器经常需要「按标签查一批对象」(如「所有带 app=web 的 Pod」)。没有索引就是全量遍历,有了索引是哈希查找。索引的维护成本:每次 Indexer 更新(Upsert/Delete)都要同步更新所有索引——读加速用写换。这也是 client-go 提供 Indexers 配置的原因:控制器按需声明要哪些索引,而不是为所有字段建索引。
Reflector 的重试与超时:谁在保护一致性
Reflector 在断连时的行为由两套机制保护:
| 机制 | 作用 | 参数 |
|---|---|---|
| List 超时 | List 挂起时中止,转退避重试 | ListTimeout |
| Watch 超时 | watch 静默超过期限即断开重来 | 读超时 |
| 退避 | 重试间隔指数增长 | 50ms~8s |
关键点:Reflector 从不「容忍失败」。任何一步失败都回到「重新 List 全量」,绝不带着不完整的状态继续。这与 3.3 节的 relist 语义一致:保护的不是性能,是「缓存要么正确、要么重建」的不变式。Reflector 是 informer 里唯一接触网络的组件,把网络的不确定性隔离在它内部——上层(DeltaFIFO/Indexer)假设输入可靠,这个「假设」就是 Reflector 用重试与全量重建换来的。
为什么 worker 从 FIFO Pop 而不是从 Indexer 读
控制器的主循环两种实现都见过,但标准 client-go 是「FIFO Pop → 处理 → 更新 Indexer」。为什么不直接「Indexer 里有变化就处理」?
| 方式 | 问题 |
|---|---|
| 直接监听 Indexer 变化 | 无法去重:同一 key 连续变更会触发多次处理 |
| FIFO Pop | 去重合并(3.2 节),一次 Pop 对应一次处理 |
FIFO 的「待处理」与 Indexer 的「已处理」分离,正是为了把「发生了多少次变化」与「处理了多少次」解耦——控制器按自己的节奏处理,不需要跟事件一一对应。这也是「去重是正确性的一部分,不是优化」的根本原因。
本节 lab
本节验证 DeltaFIFO 的去重合并与 Indexer 的索引检索:
cd private/labs/k8s-ctrl-lab
go test ./informer -run 'TestDeltaDedup|TestIndexerAndLabel' -v
TestDeltaDedup:同一 key 三次变更,队列中只有一条(去重),增量合并为最新类型。TestIndexerAndLabel:Upsert 后按 label 检索到全部匹配对象,Delete 后索引同步移除——worker 消费 FIFO 后更新 Indexer 的最小链路。
继续阅读
探索更多技术文章
浏览归档,发现更多关于系统设计、工具链和工程实践的内容。