推理基准与压测：TTFT、ITL、TPOT 指标与容量规划实战
『我的推理服务到底能扛多大流量？』『加一张卡值不值？』『P99 为什么这么差？』这些问题都需要一套科学的基准测试方法。本文讲解 LLM 推理的核心性能指标 TTFT / ITL / TPOT，分析延迟与吞吐曲线，演示 LLM Perf 与 Locust 两类压测工具，最后给出容量规划与成本建模的完整方法。一、推理性能指标体系
tag
基准测试
共 2 篇文章。
Go 性能入门：基准测试、pprof 和先测量再优化
本文详解 Go 基准测试和性能分析方法，包含 Benchmark 编写、benchstat 对比、pprof CPU 和内存分析，附带性能优化常见误区与最佳实践。