KV Cache on PlumePHPhttps://plumephp.com/tags/kv-cache/Recent content in KV Cache on PlumePHPHugozh-CNSun, 27 Sep 2026 09:00:00 +0800多模态推理实战：从图像 Token 化到视觉语言模型联合推理https://plumephp.com/ai-multimodal-inference/Sun, 27 Sep 2026 09:00:00 +0800https://plumephp.com/ai-multimodal-inference/<blockquote> <p>大语言模型的文本能力已经被充分挖掘，而让模型&quot;看懂图&quot;的多模态推理，正在成为企业级应用的新战场：文档解析、商品识别、自动驾驶、智能客服。本文从图像如何变成 Token 讲起，深入视觉语言模型（VLM）的联合推理机制、多模态 KV Cache 显存管理，再到生产级多模态推理服务部署。</p>