推理服务的 Kubernetes 部署与弹性伸缩
本文面向 LLM 推理服务的生产部署，讲清 GPU 调度（device plugin、taints、MIG、time-slicing）的配置要点，比较 Deployment 与 StatefulSet 的边界，给出 startupProbe 应对模型加载的探针设计，说明 HPA 基于 CPU 失效的原因并改用 KEDA 加 Prometheus 队列深度指标，附可运行 YAML。
tag
KEDA
共 3 篇文章。
Kubernetes 弹性伸缩体系：HPA、VPA、KEDA 与 Cluster Autoscaler 全解
深入解析 Kubernetes 弹性伸缩体系：HPA 水平扩缩容算法与自定义指标、metrics-server、VPA 垂直扩容的 Recommender/Updater/Admission Controller、KEDA 基于事件驱动的伸缩、Cluster Autoscaler 节点级扩缩容、多指标联动与规模化避坑。
DevOps 性能容量规划：负载测试、自动伸缩与容量预测
系统讲解 DevOps 场景下的性能容量规划方法论，涵盖负载测试工具选型、K8s 自动伸缩配置、容量预测模型、瓶颈定位与云成本优化策略。