分类目录归档:Agent开发

Agent 记忆、规划与多步任务:从 Demo 到可靠系统

Demo 里 Agent「看起来很聪明」,上线后却常翻车:忘上下文、死循环调工具、中途跑偏。要把 Demo 做成可靠系统,得补齐记忆、规划、约束三块。

记忆分层

  • 短期记忆:当前会话 messages
  • 情景记忆:向量库存历史对话摘要
  • 长期偏好:用户设置、权限、常用工具
# 会话过长时做摘要压缩
if token_count(messages) > 6000:
    summary = summarize(messages[:-4])
    messages = [{"role": "system", "content": summary}] + messages[-4:]

规划:先拆任务再执行

plan_prompt = """
把用户目标拆成最多 5 个可执行步骤,输出 JSON 数组。
用户目标:{goal}
"""
steps = parse_json(llm(plan_prompt))
for step in steps:
    observe = run_agent_step(step)
    # 每步校验,失败则重规划

可靠性护栏

  1. 最大步数 / 最大工具调用次数
  2. 工具白名单与参数校验
  3. 关键写操作二次确认(人工 in-the-loop)
  4. 完整 trace:每一步输入、工具、输出都落日志

评估怎么做

准备 30~50 个真实任务集:成功标准、允许工具、期望最终答案。每次改 Prompt/工具都回归一遍。没有评估集,Agent 优化只能靠感觉。

一句话总结:Agent 的核心不是更会聊,而是可控地完成任务。

用 LangChain / 自研框架搭一个能查库的 Agent

很多教程一上来堆框架。其实你也可以自研一个「LLM + 工具注册表 + 循环」的小内核。本文给两种路线:自研最小核,以及 LangChain 快速拼装。

自研最小核

TOOL_REGISTRY = {}

def tool(name, desc, schema):
    def deco(fn):
        TOOL_REGISTRY[name] = {"fn": fn, "desc": desc, "schema": schema}
        return fn
    return deco

@tool("sql_query", "只读查询业务库", {"sql": "string"})
def sql_query(sql: str) -> str:
    assert sql.strip().lower().startswith("select")
    # 执行只读 SQL 并返回 markdown 表
    return run_readonly_sql(sql)

关键安全:Agent 查库默认只读账号,并拦截非 SELECT。

LangChain 思路(概念)

# 伪代码
from langchain.agents import create_tool_calling_agent, AgentExecutor
from langchain_core.tools import tool

@tool
def get_course_price(course_name: str) -> str:
    """查询课程价格"""
    return query_price(course_name)

agent = create_tool_calling_agent(llm, [get_course_price], prompt)
executor = AgentExecutor(agent=agent, tools=[get_course_price])
print(executor.invoke({"input": "Python爬虫课多少钱?"}))

什么时候自研 / 用框架

  • 学习原理、控制力要求高 → 自研小核
  • 快速验证、工具多、链路长 → 框架更省事
  • 上线后都要补:超时、重试、轨迹日志、人工接管

Agent 是什么:工具调用(Function Calling)工作流拆解

Chatbot 只会聊天;Agent 还能决定调用工具:查库、搜文档、算数、调 API。理解 Function Calling,是进入 Agent 开发的第一扇门。

一次典型循环

  1. 用户提出目标
  2. 模型选择:直接回答 or 调用某个工具
  3. 程序执行工具,把结果回填
  4. 模型基于工具结果继续推理,直到给出最终答案

工具描述示例

tools = [{
  "type": "function",
  "function": {
    "name": "get_order",
    "description": "根据订单号查询订单状态与金额",
    "parameters": {
      "type": "object",
      "properties": {
        "order_id": {"type": "string", "description": "订单号"}
      },
      "required": ["order_id"]
    }
  }
}]

伪代码主循环

messages = [{"role": "user", "content": "帮我查订单 A10086 到哪了"}]
while True:
    resp = llm.chat(messages, tools=tools)
    if resp.tool_calls:
        for call in resp.tool_calls:
            result = run_tool(call.name, call.arguments)
            messages.append({"role": "tool", "tool_call_id": call.id, "content": result})
        continue
    return resp.content

设计原则

  • 工具要少而精,描述写清楚「何时用」
  • 参数 schema 严格,减少胡编参数
  • 工具执行必须鉴权与审计