Demo 里 Agent「看起来很聪明」,上线后却常翻车:忘上下文、死循环调工具、中途跑偏。要把 Demo 做成可靠系统,得补齐记忆、规划、约束三块。
记忆分层
- 短期记忆:当前会话 messages
- 情景记忆:向量库存历史对话摘要
- 长期偏好:用户设置、权限、常用工具
# 会话过长时做摘要压缩
if token_count(messages) > 6000:
summary = summarize(messages[:-4])
messages = [{"role": "system", "content": summary}] + messages[-4:]
规划:先拆任务再执行
plan_prompt = """
把用户目标拆成最多 5 个可执行步骤,输出 JSON 数组。
用户目标:{goal}
"""
steps = parse_json(llm(plan_prompt))
for step in steps:
observe = run_agent_step(step)
# 每步校验,失败则重规划
可靠性护栏
- 最大步数 / 最大工具调用次数
- 工具白名单与参数校验
- 关键写操作二次确认(人工 in-the-loop)
- 完整 trace:每一步输入、工具、输出都落日志
评估怎么做
准备 30~50 个真实任务集:成功标准、允许工具、期望最终答案。每次改 Prompt/工具都回归一遍。没有评估集,Agent 优化只能靠感觉。
一句话总结:Agent 的核心不是更会聊,而是可控地完成任务。