AI Agent 原理:从循环到系统 深读版 · 16-常见坑速查.md 返回工具站 ← 返回章节

16 · 常见坑速查

全模块的坑总表。每条坑 = 症状 → 根源 → 对策,按「建设期 / 运行期 / 成本与安全」分组。 建议用法:出问题时来查表;每修一个新坑,回来补一行。

A. 建设期(设计与实现)

#坑症状根源对策
A1无终止条件就上线任务跑几十轮不停,账单暴涨循环只有「模型觉得完」一个出口步数/预算双上限 + 重复失败熔断(第 04 章)
A2工具错误静默吞掉agent 基于错误观察继续走,产出离谱try/except 后返回空串错误原文回注,永不返回空(第 04 章)
A3工具描述含糊或雷同模型 20% 概率选错工具、填错参数描述写「是什么」没写「何时用」描述写使用时机/边界/代价,参数带格式示例(第 05 章)
A4工具数量失控schema 吃掉大块窗口,选错率上升有什么挂什么控制在 10–20 个;分组挂载/工具检索(第 05 章)
A5把业务校验押在模型上金额算错、日期越界入库模型不是计算器也不是校验器校验焊死在工具代码里,错误信息指引模型改(第 05 章)
A6负面指令写法「不要啰嗦」→ 更啰嗦模型对「别做 X」遵循弱改正面指令:「回答 ≤3 句」(第 03 章)
A7提示对单例过拟合案例一改就崩对着 2–3 个样本雕提示用固定评测集验证提示(第 13 章)
A8RAG 默认化明明能 SQL 查的数据上了向量库,召回还错把 RAG 当架构默认先过「该不该用」四连问;结构化数据走查询(第 09 章)
A9嵌入模型静默升级检索质量无声崩塌新旧向量不在同一空间模型版本与索引版本绑定,升级即重建(第 09 章)
A10缓存前缀里放易变内容每轮成本数倍于预期时间戳/随机 ID 写进 system prompt 开头不变在前、易变在后(第 07 章)
A11无沙箱执行生成代码一次 rm -rf / 凭证泄露「临时跑一下」心态沙箱是代码执行的准入门槛(第 12 章)
A12子代理任务书缺背景worker 做错方向,回收废话任务书没有目标/边界/返回格式三件套任务书模板化 + 结论必须带证据(第 10/11 章)

B. 运行期(行为与状态)

#坑症状根源对策
B1长会话「失忆」第 30 轮忘了第 3 轮的约束信息已不在窗口 / context rot翻上下文先确认在不在;关键约束压缩时白名单保护、必要时重注入(第 02/07 章)
B2压缩后「变笨」compaction 之后质量跳水摘要丢了关键约束压缩白名单:用户诉求、红线、决策逐字保留;压完自检(第 07 章)
B3上下文污染一个错误结论带偏全程错误工具结果留在历史里显式注入更正消息;已消化的大观察修剪(第 07 章)
B4记忆记错还坚持每次会话都被旧错信息带偏记忆当真相源,无校验记忆=缓存:使用时核对当下;带来源与绝对日期(第 08 章)
B5记忆库变成垃圾场召回信噪比暴跌什么都想记、只写不删「跨会话有用+repo 没有+出错代价高」三关;定期归并清理(第 08 章)
B6相对时间入库「下个月到期」半年后还在无锚点时间一律转绝对日期(第 08 章)
B7反复横跳两条路线来回切,40 步无进展无重估触发点同方向连续失败 2–3 次强制显式换路/升级(第 10 章)
B8过度规划小任务也仪式化十步规划当流程装饰<3 步可预知任务直走;规划服务于防漂移(第 10 章)
B9GUI 自动化盲操作点了一串但一事无成不验证就连续执行每步观察 + 状态断言 + 失败即停(第 12 章)
B10并行写同一文件多智能体互相覆盖(或并行会话互吞提交)无编排、黑板无锁按文件/目录物理切分;共享区单人落笔(第 11 章)
B11递归委派子代理再生子代理,层级爆炸无深度上限委派深度硬限 1 层(第 11 章)

C. 成本与安全

#坑症状根源对策
C1成本随轮数线性爆炸第 40 轮单轮成本是开场 6 倍全量历史每轮重复计费压缩 + 缓存前缀 + 工具结果修剪;预算上限兜底(第 02/07 章)
C2凭证长期化root token 配给 agent图省事短期令牌、按任务发放、用后焚(第 14 章)
C3fail-open 兜底权限服务超时就放行可用性惯性agent 安全一律 fail-closed:拿不准即拒绝并留痕(第 14 章)
C4弹窗疲劳用户无脑点确认低危操作也弹分级:低危免确认,高危 diff 审批(第 14 章)
C5外部数据当指令信网页/邮件诱导 agent 外发数据提示注入数据打标、egress 白名单、外发人工闸门(第 14 章)
C6第三方 server 不审即装工具描述里埋毒MCP 生态便利性幻觉描述与源码当代码审(第 06 章)
C7vibes 上线「感觉变好了」就发版无评测集评测集三层记分卡(结果/轨迹/成本)作合入门槛(第 13 章)
C8只看成功率95% 成功率但成本 ×4单指标优化三层记分卡并列看(第 13 章)
C9judge 无 rubric评估结果随机让模型发挥想象先写评分判据;定期人工抽检校准(第 13 章)
C10事故不回流同类坑反复踩复盘不进评测集每个线上事故 → 一条新评测用例(第 13 章)

使用建议