10.3 缓存一致性、失效与命中率建模
平均延迟与并发回源是不同现象。命中率要明确按请求数还是按字节统计。
并发未命中的安全合并
flowchart TB
Q["查询:绑定参数、有效权限、会话与各依赖版本"] --> D{"具备可缓存的确定性和时效契约?"}
D -->|"否"| E["直走执行路径"]
D -->|"是"| F["构造保留 SQL 语义的键"]
F --> C{"缓存键命中且通过版本校验?"}
C -->|"是"| R["返回缓存结果"]
C -->|"否"| A{"为该键原子注册 Future"}
A -->|"已有实例"| W["等待返回的同一 Future,受本请求期限约束"]
A -->|"注册成功"| X["按已绑定版本回源"]
X --> S{"执行成功且结果允许回填?"}
S -->|"是"| Y["按绑定版本写缓存并完成 Future"]
S -->|"否"| N["按执行结果完成 Future,跳过回填"]
Y --> H["按 Future 实例删除在途记录"]
N --> H
以完整请求语义键原子注册 Future。获胜者执行,等待方使用原子操作返回的 Future 引用;不能再查表取可能已经移除的键。执行成功时先按绑定版本提交缓存,再完成 Future。异常也完成 Future 并唤醒等待方,最后按同一实例删除在途记录。等待方按自身期限退出,执行者的取消与合并组有独立策略。租户级隔离和容量上限仍适用。
估算的适用条件
若命中延迟 1 ms、未命中 50 ms,请求命中率 90%,稳定混合平均值为 5.9 ms,P99 仍可能落入未命中路径。8 GiB 缓存面对 10 GiB 工作集,均匀访问、同尺寸和理想容纳下可作 80% 估算;高偏斜热集可能更高,扫描污染则可能更低。应同时跟踪请求命中、字节命中、去重后回源和峰值等待。
实验与资料
下载卷六实验包
,参照包内 README。src/ 下的 Java 8 教学模型。
继续阅读
探索更多技术文章
浏览归档,发现更多关于系统设计、工具链和工程实践的内容。