LLM / AI 开发专题：从 API 调用到生产级智能应用 on PlumePHP

Agent 记忆系统实战：从上下文窗口到长期记忆的持久化架构

Sat, 26 Sep 2026 00:00:00 +0800

LLM 本身没有记忆——每次调用都从空白上下文开始。但真实的智能应用需要跨会话记住用户偏好、任务进度与历史事实。Agent 记忆系统正是为了解决"上下文是易失的、知识是永恒的"这一矛盾而生的工程领域。本指南从记忆的类型学出发，系统覆盖短期工作记忆、长期语义记忆、情景记忆与程序性记忆的落地实现，并给出向量库、SQLite、文件系统三种存储方案的完整代码。

Embedding 与 Reranker 深度调优：检索质量的决定性引擎

Sat, 26 Sep 2026 00:00:00 +0800

RAG 系统的质量上限由检索器决定：检索不到关键文档，再强的 LLM 也只能基于错误或残缺的信息作答。而检索质量的核心引擎是 Embedding（召回）+ Reranker（精排） 的两段式架构——Embedding 用极快的向量检索从百万文档中捞出 Top-100 候选，Reranker 再用精确的交叉编码把候选精排到 Top-10。本指南从两段式架构原理出发，系统覆盖模型选型、混合检索、Query 改写、Reranker 训练微调与评测方法论。

GraphRAG 实战：从向量检索到知识图谱增强检索

Sat, 26 Sep 2026 00:00:00 +0800

传统 RAG 用向量相似度检索文档片段，但在回答"谁和谁有关系"“某事件的完整影响链"这类需要多跳推理的问题时力不从心——关键信息可能分散在不同文档里，向量检索只能局部命中。GraphRAG 将知识表示为实体-关系图谱，用图遍历补足向量检索缺失的关联推理能力。本指南从图谱建模出发，系统覆盖实体抽取、图谱构建、检索策略（局部与全局）、与向量检索的混合架构，并给出 Neo4j + LLM 的完整实战。

LLM 语义缓存与模型路由：成本治理的两大杠杆

Sat, 26 Sep 2026 00:00:00 +0800

LLM API 调用既慢又贵：单次调用延迟数百毫秒、成本随 token 线性增长，高频请求的重复计算纯粹是浪费。语义缓存与模型路由是控制 LLM 成本与延迟的两大杠杆——前者让"相似的问题"复用答案，后者让"简单的问题"用便宜模型。但二者都面临同一个陷阱：省钱的优化不能牺牲质量。本指南从语义缓存原理出发，覆盖缓存命中策略、一致性维护、路由算法、质量门禁与生产监控，给出完整的成本治理体系。

上下文工程实战：从上下文窗口到长上下文管理的工程体系

Sat, 26 Sep 2026 00:00:00 +0800

随着模型上下文窗口从 4K 一路扩张到 200K、甚至 1M，一个反直觉的结论浮现：更大的窗口不等于更好的回答。研究与实践反复证明，Long Context 存在"迷失在中间（Lost in the Middle）“效应——模型对输入中间部分关注不足，且海量无关上下文会稀释关键信息、推高延迟与成本。上下文工程（Context Engineering）正是应对这一问题的学科：在有限的 token 预算内，把最有价值的信息以最优的结构注入模型。本指南系统覆盖上下文结构设计、长文档策略、上下文压缩、Prompt Caching 与记忆分层，给出可落地的完整工程体系。

模型评估与 LLMOps：从离线评测到生产监控的闭环体系

Sat, 26 Sep 2026 00:00:00 +0800

LLM 应用上线后的最大风险不是"跑不起来"，而是"悄悄变差"——模型升级、Prompt 改动、知识库更新都可能引入质量回归，而概率性输出让这种退化难以用传统测试发现。LLMOps 的核心是建立评估（Evaluation）与监控（Monitoring）的闭环：离线用评测集守住质量基线，在线用指标捕获漂移。本指南系统覆盖评测集设计、指标选型、LLM-as-a-Judge 可靠性、回归门禁、生产监控与成本治理的完整实践。

AI Agent 产品设计方法论：从交互范式到产品落地的完整框架

Tue, 18 Aug 2026 15:00:00 +0800

AI Agent 产品设计方法论：工具到 Agent 的范式迁移、五大组件 UX 设计、四种交互模式、分层记忆系统、可靠性工程、多智能体编排 UX、可解释性设计、ReAct/Plan-and-Solve/Reflexion/DEPS 模式、Devin/AutoGPT/Claude 案例、自主度光谱与评估矩阵

大模型本地部署与私有托管：从 Ollama 到 vLLM 生产级推理集群

Tue, 18 Aug 2026 14:00:00 +0800

1. 为什么需要本地部署

将大语言模型部署在本地或私有基础设施上，正从「极客玩具」演变为企业级刚需。与纯云端 API 相比，本地部署在四大维度具有不可替代的优势。

LLM 商业化应用开发与产品化方法论：从价值验证到规模化盈利

Tue, 18 Aug 2026 13:00:00 +0800