Agent 记忆、规划与多步任务:从 Demo 到可靠系统

Demo 里 Agent「看起来很聪明」,上线后却常翻车:忘上下文、死循环调工具、中途跑偏。要把 Demo 做成可靠系统,得补齐记忆、规划、约束三块。

记忆分层

  • 短期记忆:当前会话 messages
  • 情景记忆:向量库存历史对话摘要
  • 长期偏好:用户设置、权限、常用工具
# 会话过长时做摘要压缩
if token_count(messages) > 6000:
    summary = summarize(messages[:-4])
    messages = [{"role": "system", "content": summary}] + messages[-4:]

规划:先拆任务再执行

plan_prompt = """
把用户目标拆成最多 5 个可执行步骤,输出 JSON 数组。
用户目标:{goal}
"""
steps = parse_json(llm(plan_prompt))
for step in steps:
    observe = run_agent_step(step)
    # 每步校验,失败则重规划

可靠性护栏

  1. 最大步数 / 最大工具调用次数
  2. 工具白名单与参数校验
  3. 关键写操作二次确认(人工 in-the-loop)
  4. 完整 trace:每一步输入、工具、输出都落日志

评估怎么做

准备 30~50 个真实任务集:成功标准、允许工具、期望最终答案。每次改 Prompt/工具都回归一遍。没有评估集,Agent 优化只能靠感觉。

一句话总结:Agent 的核心不是更会聊,而是可控地完成任务。

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注