显存优化

LLM 推理性能调优实战：从瓶颈定位到端到端优化的检查清单

LLM 推理的性能问题往往不是单一原因，而是一连串「小瓶颈」叠加。本文给出一份实战调优检查清单：先量化目标（吞吐/延迟/成本），再逐层定位瓶颈（显存/计算/带宽/调度），然后按优先级实施优化（解码策略/前缀缓存/融合/量化/批调度），最后用基准测试验证——从定位到优化的完整闭环。