category

Agent

共 150 篇文章。
全部文章gamegolang客户端开发MinigameSaasrustPythonJavacgTypescriptengineCocosMmodatabase
agent

《AI Agent 高级编程》1.2 统一抽象:一个 Protocol 适配多家并写适配层

本节定义一个统一后端抽象 AgentBackend Protocol(单个 async run),并为它写适配层:本地假后端、PydanticAI 的 TestModel、以及自定义 FunctionModel 三种实现挂到同一个 Protocol 上,用同一份调用代码真跑并断言输出,证明它们可互换,最后讨论错误与超时契约及真实框架适配骨架。

8 分钟阅读
AI Agent AI Agent 高级编程 Protocol
agent

《AI Agent 工程实战》8.3 取消、超时与泄漏:慢工具注入验证止损

并发开得越大,越怕一个慢工具拖住整轮。本节用 asyncio.timeout 给每个工具调用设墙钟上限,演示用户断开时取消如何从 run 一路传到最内层的工具,剖析忘了 await 的 Task 与 TaskGroup 失败取消两种泄漏。真跑注入一个睡 10 秒的慢工具,验证 1 秒超时后整个 run 及时止损并返回明确错误,最后给出超时值的决策表。

8 分钟阅读
AI Agent AI Agent 工程实战 超时
agent

《AI Agent 工程实战》8.2 背压与资源池:信号量限并发

上一节把并发开到最大,这一节给它装刹车。无限制的并发会打爆下游:模型 API 限流、数据库连接池耗尽。本节用 asyncio.Semaphore 做并发上限,用手写最小连接池做资源复用,讲清背压「生产快于消费时必须让上游慢下来」,真跑 200 个任务并发上限 10 打印峰值并发与总耗时,并给出按下游 QPS 反推并发上限的估算方法。

8 分钟阅读
AI Agent AI Agent 工程实战 背压
agent

《AI Agent 工程实战》8.1 引擎内并发:并行工具与并行子 Agent

Agent 天生并发:一轮可以发出多个工具调用,一个任务可以拆成多个子 Agent。本节把卷一 4.3 的线程池写法升级成 asyncio.TaskGroup 的真并发版本,演示结果按调用顺序回填而非完成顺序,再并行跑多个子 Agent 汇总,用带 sleep 的假工具实测串行与并行的墙钟差,并给出并发安全边界表。

10 分钟阅读
AI Agent AI Agent 工程实战 并发
agent

《AI Agent 开发入门》8.3 记忆写入策略

检索解决「怎么取」,本节解决「怎么存」。如果什么都往记忆里塞,召回会被噪声淹没;塞得太少又会漏掉关键信息。本节给 minagent 加上写入策略:用 should_write 判断什么值得记(偏好、事实、结论 vs 寒暄),用规范化字符串比较做 dedup 去重,用 slot 加时间戳做冲突消解让新信息覆盖旧信息,并真跑一组写入用例。

10 分钟阅读
AI Agent AI Agent 开发入门
agent

《AI Agent 开发入门》8.1 对话缓冲与摘要记忆

BufferMemory 和 SummaryMemory 用于文本上下文,不用于逐条裁剪带工具调用的运行历史;工具历史应使用第 6.2 节的完整轮次策略。摘要是有损模型输出,不保证最早事实永不丢失。get_context 把摘要标记为资料 user 消息,不能提升为 system 指令。长度截断也可能丢信息,业务重要事实应单独结构化保存并抽查。

3 分钟阅读
AI Agent AI Agent 开发入门
agent

《AI Agent 工程实战》7.3 定时与延迟任务:周期语料更新与日报

队列里除了用户触发的 run,还需要两类「自己动」的任务:每 N 分钟重建语料索引的周期任务,和 run 完成后延迟几分钟生成摘要的延迟任务。本节用 Redis 的 SET NX PX 加 token 校验做分布式锁,讲清多 worker 抢同一个定时任务时怎么保证只有一个执行、释放与续期为什么要比 token,并真跑两个并发 worker 争抢同一把锁。

11 分钟阅读
AI Agent AI Agent 工程实战 定时任务
agent

《AI Agent 工程实战》7.2 重试、死信与幂等

上游抖动让 worker 一次失败就判死太脆弱。本节复用卷一 14.1 的错误分类,给队列加上带指数退避与抖动的重试、超过上限进死信队列、以及「重试必须配幂等」的三件套:把 run id 当幂等键,已 succeeded 的 run 直接复用旧结果不重复执行。真跑注入一个「前两次必失败、第三次成功」的假模型打印重试轨迹,再跑一个永远失败的进死信并读回死信记录。

9 分钟阅读
AI Agent AI Agent 工程实战 死信队列
agent

《AI Agent 工程实战》7.1 任务队列:run 丢给 worker 异步执行

把一次 run 从同步请求改造成异步任务:API 只写库并入队、立刻返回 202,worker 在另一个进程消费。本节讲清裸 LPUSH/BRPOP 为什么会丢任务,改用 BLMOVE 把任务原子搬到 processing 做可靠队列,并真连本机 Redis 7.4.11 与 Postgres 17.11,跑出完整的 run 生命周期日志与同步/异步取舍表。

10 分钟阅读
AI Agent AI Agent 工程实战 任务队列
agent

《AI Agent 开发入门》7.1 流式事件模型

本节建立工具、步骤、文本与终态的事件契约,供日志和 HTTP 层复用。修订版复用第三章循环,不另写一套丢失保护的 Agent.stream。这个生成器在第一次拉取时先执行完整同步循环,再回放队列。因此消费侧 break 只停止回放,不能取消已经完成的工具,也不对上游模型形成背压;模型首字延迟不会降低。

2 分钟阅读
AI Agent AI Agent 开发入门 流式输出
agent

《AI Agent 工程实战》6.3 限流与配额:按租户 token 预算的令牌桶

本节用 Redis 给 ResearchCopilot 加两道闸:按租户的令牌桶限流(Lua 脚本保证读-算-写原子),以及按消耗 token 计费的配额——不是限制请求数,而是限制烧掉的 token。真连本机 Redis 跑出连续请求直到 429 的每一步剩余令牌与剩余额度,并给出限流粒度表与「被限流时 Agent 该怎么办」的策略。

9 分钟阅读
AI Agent AI Agent 工程实战 限流
agent

《AI Agent 工程实战》6.2 语义缓存:相似问题复用与错配检测

6.1 的字面缓存只认逐字节相同的 key,可用户换个说法问同一个问题它就失灵。本节实现语义缓存:把问题向量化后按相似度阈值命中历史答案,用卷一 9.1 的手写哈希嵌入真跑三种情况——同义改写命中、无关问题不命中、相似但答案相反时误命中,贴出真实相似度数值,并重点讲错配检测与哪些问题绝不能走语义缓存。

11 分钟阅读
AI Agent AI Agent 工程实战
agent

《AI Agent 工程实战》6.1 Redis 缓存:检索结果与嵌入缓存命中率

本节给 ResearchCopilot 的检索结果与嵌入向量加一层 Redis 缓存:缓存 key 带上 workspace_id 以对齐 4.2 的租户隔离,真连本机 Redis 跑出「首次未命中回源、二次命中」的耗时对比与 70% 命中率,并给出检索、嵌入、会话三类 TTL 策略表,以及缓存穿透、击穿、雪崩在 Agent 场景下的具体形态与对策。

11 分钟阅读
AI Agent AI Agent 工程实战
agent

《AI Agent 开发入门》6.1 系统提示与指令分层

把角色、任务和本轮约束分开,可以让调用方看清每段文字由谁提供、何时变化。应用中的分层约定不等于供应商角色协议或安全策略。优先级提示只帮助组织文字,模型仍可能忽略;不能依靠一句安全红线授权工具。工具白名单、参数校验和人工确认应在执行代码里完成;缓存也由供应商具体条件决定。

3 分钟阅读
AI Agent AI Agent 开发入门