8.2 联合共识:两阶段成员变更
8.1 的病根是「旧配置与新配置错峰生效,产生了不相交的多数派」。Raft 论文给出的官方解法叫 Joint Consensus(联合共识):不直接从一个配置跳到另一个,而是先进入一个「两个配置的交集」作为中间态,分两阶段切换。这一节把它的协议、正确性论证和 etcd 里的落地讲透。
目标:任意时刻新旧多数派都相交
先明确设计目标,后面所有机制都是为它服务的:
在配置变更的整个过程中,任意两个可能用来提交的多数派都必须相交。
8.1 里 {1,2} 与 {3,4,5} 不相交,违反这个条件。如果每次提交都必须同时满足「旧配置的多数」和「新配置的多数」,那么两个不同的提交各自都要跨越旧、新两侧,它们的多数派就必然在某一侧重叠。Joint Consensus 的核心思路,就是把「提交需要哪些票」从「一个配置的多数」改成「两个配置的多数」。
第一阶段:进入联合配置 C_old,new
设旧配置 C_old(例如 {1,2,3}),新配置 C_new(例如 {1,2,3,4,5})。Leader 要做的第一件事,不是直接广播 C_new,而是追加一条联合配置日志 C_old,new:
C_old,new = { C_old 的成员 } ∪ { C_new 的成员 }
这条日志的语义是:集群此刻同时按两个配置运行。一个日志条目要被提交,必须同时满足:
- 得到 C_old 的多数确认(例如 {1,2},2/3 票),且
- 得到 C_new 的多数确认(例如 {3,4,5},3/5 票)。
这就是「双多数」(dual majority)。注意它不等价于「全体多数」——{1,2} 与 {3,4,5} 合起来是 5 个不同节点,双多数要求的是两边分别够数,而不是并集够数。
在联合配置期间,Leader 选举也按同样的双多数规则:候选人必须同时拿到 C_old 多数与 C_new 多数才能当选。因此任何当选 Leader,都同时在旧、新两侧都有合法性,不会出现 8.1 那种「旧配置选一个、新配置选一个」的竞态。
两阶段的状态机与完整时间线
状态迁移如下:
C_old C_old,new C_new
{1,2,3} ──提交 C_old,new──▶ 旧多数+新多数 ──提交 C_new──▶ {1,2,3,4,5}
单多数 双多数 单多数
quorum=2 quorum=(2 ∩ 3) quorum=3
- 提交 C_old,new 需要:C_old 多数 + C_new 多数(双多数)。
- 提交 C_old,new 之后:集群正式进入联合态,后续日志条目也都按双多数提交。
- 再追加 C_new 并提交需要:仅 C_new 多数(单多数)。一旦 C_new 被提交,旧配置 C_old 失效,配置变更完成。
把两阶段铺成时间线,能看清每个时刻谁在生效:
- t0:集群按 C_old = {1,2,3} 运行,Leader 是节点 1。
- t1:节点 1 追加配置条目 C_old,new = {1,2,3,4,5},复制给所有人。此刻提交仍然只看 C_old 多数。
- t2:节点 1 拿到 C_old 多数({1,2})与 C_new 多数({3,4,5})的确认,C_old,new 被提交,集群进入联合态。
- t3:节点 1 继续复制业务日志,每一条都要双多数确认后才能提交。新节点 4、5 参与新配置一侧的计数。
- t4:节点 1 追加纯 C_new 配置条目,只需 C_new 多数确认后提交;提交完成那一刻,C_old 作废,节点 1、2 中还没切配置的也被强制切到 C_new。
- t5:集群按 C_new = {1,2,3,4,5} 运行,quorum = 3。
关键在 t3:联合态期间,业务日志的提交条件既包含旧多数又包含新多数,所以一个值若在旧侧被认,必然同时在联合态被认——两个提交不可能各走一边。
为什么两阶段保证不相交不可能
用集合论给一个简短论证。设 Q1、Q2 是联合态下任意两次成功提交各自用到的确认集合。每次确认集合 Q 都形如 Q = Q_old ∪ Q_new,其中 Q_old 是 C_old 的多数,Q_new 是 C_new 的多数。
- 任意两个 C_old 多数派必然相交(多数派两两相交,第 5 章已证)→ Q1_old ∩ Q2_old ≠ ∅;
- 任意两个 C_new 多数派必然相交 → Q1_new ∩ Q2_new ≠ ∅。
所以 Q1 与 Q2 至少共享一个 C_old 成员,也至少共享一个 C_new 成员,绝不可能完全不相交。这样,同一个日志索引上不可能出现两个都达到提交条件的值——这就是 8.1 脑裂的数学反例被直接推翻的过程。
再验证一下 8.1 的反例在联合态下为什么会失败:{1,2}(旧多数)与 {3,4,5}(新多数)作为两次提交的确认集合,第一次提交还必须同时有 {1,2} 之外的 C_new 多数,例如 {1,3,4} 或 {1,2,4}——注意它必须包含一个旧成员(这里选 1 或 2);第二次提交也必须包含一个旧成员。两次提交在旧侧必然撞同一个节点,脑裂无法成立。
复制给新成员的时机:先同步日志,再变配置
联合共识解决了「不相交多数派」,但它默认新成员已经具备投票能力。而 5.2 选举限制告诉我们:一个日志为空的新节点,既不能当 Leader,也不应该投出有意义的票——它可能把票投给一个日志落后的候选人,因为它根本不知道最新已提交的命令是什么。
所以 Raft 论文规定:新服务器必须先以「不投票」的方式把日志同步到足够新,才能参与投票。在联合配置 C_old,new 里,新成员(4、5)其实已经出现在 C_new 一侧、被纳入新多数计算,但这发生在它们日志追平之前是不安全的。实际做法分两步:
- Leader 先把日志复制给新成员(它们此刻不进入任何多数派计算,只接收 AppendEntries/快照)。
- 等新成员日志追上 Leader(通过进度表
nextIndex与matchIndex判断),再追加 C_old,new 把它正式纳入投票。
一个更常见的工程化做法是「learner」——新成员先以 learner 身份长期存在,追平后再一次性进入配置。这个机制 8.3 专门讲;这里要记住的是顺序原则:先给数据,再给投票权。顺序反了,新成员加入的第一个瞬间就会拖垮 quorum。
为什么必须「先同步再给票」还有一层原因:新成员如果空着日志进入 quorum,5.2 的选举限制会保护旧 Leader(新成员日志太旧当不了 Leader),但提交延迟会被拖垮——Leader 要等多数确认,而多数里包含了这个还在追日志的慢节点。learner 的设计让「同步」发生在「给票」之前,从机制上根除这个窗口。
联合态下谁有投票权
进入联合态后,投票权需要精确界定,因为旧、新配置成员集合不同:
- C_old 的成员(1、2、3)参与 C_old 一侧的多数计算;
- C_new 的成员(1、2、3、4、5)参与 C_new 一侧的多数计算;
- 如果一个节点同时属于两边(1、2、3),它的票同时计入两侧;
- 已经被移出 C_old、且尚未进入 C_new 的节点(如果有),两者都不计。
选举时,候选人按同样的双多数拿票:它必须收集到 C_old 多数 + C_new 多数。这意味着联合态下有可能出现「候选人在一侧够数、另一侧不够」的僵局——这正是安全代价换来的必然:宁可暂时选不出 Leader,也不允许选出一个只被半边承认的 Leader。etcd 里这种僵局通常靠超时重试、重新发起选举自然化解。
etcd 的实现:raft/confchange.go 与 confstate
etcd 的 raft 包把配置变更建模成 raftpb.ConfState(配置状态)与 confchange 库。
- ConfState 描述集群当前处于哪个配置:
Voters(正式投票成员)、Learners(learner,8.3 讲)、以及联合态下的VotersOutgoing(旧配置成员,C_old 的正式成员仍列在这里直到切换完成)。etcd 每次日志快照都会把 ConfState 固化进去,新节点安装快照后立刻知道「我是谁、谁能投票、现在是不是联合态」。 - confchange 是
raft/confchange.go里的一个小库,负责计算「加上/去掉一个成员后,quorum 集合变成什么」:把变更应用到 ConfState,产出新的 Voters/Learners,并判定这次变更是否需要走联合态(需要的话返回新的 VotersOutgoing)。
etcd V3.4 起重构了成员变更路径,raftpb.ConfChangeV2 可以一次描述单成员或联合变更。ConfChangeTransition 有三种取值:自动选择(ConfChangeTransitionAuto)、强制单步(ConfChangeTransitionJointImplicit)、强制联合(ConfChangeTransitionJointExplicit)。etcd 默认用自动:能单步就单步,需要原子替换时自动切联合。
etcd 对外封装的步骤就是 member add / member remove / member promote,内部把用户意图翻译成一个 ConfChangeV2,交给 raft 日志复制;raft/confstate.go 负责把日志里的配置条目解析回 ConfState,供选举和投票时实时查询「当前多数派是哪组节点」。
一次原子替换的配置状态推演
用一个具体例子把 ConfState 的字段串起来:集群 {1,2,3},坏节点 2 要换成新节点 4。若是强制联合态,Leader 依次追加两条配置:
变更前:
Voters = {1,2,3}
VotersOutgoing = {}
Learners = {}
追加 C_old,new = {1,2,3} ∪ {1,3,4} 并提交后,进入联合态:
Voters = {1,3,4} # 新配置的正式成员
VotersOutgoing = {1,2,3} # 旧配置成员,切换完成前仍计入旧多数
Learners = {}
此刻提交要同时拿到 Voters 多数({1,3,4} 里 2 票)与 VotersOutgoing 多数({1,2,3} 里 2 票)。节点 2 还在旧侧计数,但它已被新配置排除。
再追加纯 C_new = {1,3,4} 并提交后:
Voters = {1,3,4}
VotersOutgoing = {} # 清空,联合态结束
Learners = {}
此后节点 2 彻底失去投票权;节点 4 从 t0 起就在新配置一侧同步日志,此刻正式进入 quorum。对比 8.3 的单步变更:同样的替换要拆成 remove 2(Voters={1,3})再 add 4(Voters={1,3,4})两个单步,中途要经过一个更小的集群——联合态一步完成替换,省掉那个最脆弱的中间态,这就是 etcd 在需要原子替换时愿意走 joint 的原因。
联合态下的提交推进与观察
联合态下的 commit 推进比单配置多一道判断:Leader 收到 AppendEntriesResponse 后,不仅要更新进度表,还要分别统计「Voters 侧确认数」与「VotersOutgoing 侧确认数」,两侧都过半才推进 commitIndex。这意味着运维观察时,联合态最明显的信号是提交明显变慢——每一条命令都要等两批确认。etcd 成员列表在联合态下会同时显示新旧成员(member list 里旧成员仍在、新成员已出现),这是最直观的「现在正处在联合态」标志。
如果联合态卡住(例如旧侧成员一直不响应),提交会停摆而不会脑裂——这是双多数用「可用性」换「安全」的直接体现。恢复手段通常是检查旧侧不可达节点,或人工决定继续切换、放弃旧配置。
与单步变更的对比
Joint Consensus 是通用的两阶段协议,它能做到单步变更做不到的三件事:
- 原子替换:同时移除一个坏节点并加入一个新节点(配置从 {1,2,3} 一步到 {1,2,4}),中间不需要退到 3 节点、再升回 3 节点的脆弱窗口。8.1 的「替换故障节点」场景在这里是一个联合变更而不是两个单步。
- 一批增删:一次 C_old → C_new 可以同时加两个、删两个,只需一轮联合态。
- 明确的中间态语义:任何时刻系统都能回答「我现在按什么配置提交」,不需要各节点靠心照不宣的顺序。
代价是复杂:双多数把每次提交的确认集合从「一个多数」变成「两个多数」,实现、调试、观测都更难;etcd 的历史上很长一段时间虽然 raft 包实现了 joint consensus,但 etcd 对外仍然只用「一次加/删一个成员」的单步变更——因为生产上单步已经足够,且心智负担小得多。8.3 就是把「更简单的单步 + learner」讲清楚。
一句话记牢两节的分工:Joint Consensus 解决的是「一次换很多人,怎么不脑裂」;单步变更 + learner 解决的是「每次只换一个人,还要不拖垮集群」。etcd 把前者留作库能力,把后者当作日常运维路径。
本节 lab
本节是协议设计,lab 验证的是它的数学地基:quorum 在成员变化时始终是「多数派」。Sim.majority() 的实现就是 len(votingNodes())/2 + 1——联合共识的双多数也是基于这个多数派定义叠加出来的。源码在 private/labs/k8s-etcd-lab/raft/membership.go,AddNode 每次只加一个投票成员。
cd private/labs/k8s-etcd-lab
go test ./raft -run TestMembershipAddChangesQuorum -v
测试 TestMembershipAddChangesQuorum 逐步断言:3 节点时 quorum=2,AddNode 到 4 节点时 quorum=3,AddNode 到 5 节点时 quorum=3,RemoveNode 回到 4 节点时仍为 3。它锁定的不是双多数本身(lab 不实现联合态),而是双多数依赖的底层事实:任何一个配置的多数派,大小永远由 n/2+1 决定,且任意两个同配置多数派必然相交。联合共识的证明正是建立在这个性质上——把两次提交的重叠性分别压到 C_old 与 C_new 两个多数派身上。
继续阅读
探索更多技术文章
浏览归档,发现更多关于系统设计、工具链和工程实践的内容。