《初识:AI Agent(智能体)》内容总结

文档分为初学者、中级、生产落地三大部分,系统讲解 AI 智能体的概念、设计模式、多智能体搭建以及原型转生产的实践要点。

一、初学者:认识 AI 智能体

  1. 核心原理

    普通大模型是单次问答;AI Agent 遵循ReAct 循环:推理 — 行动 — 观察 — 迭代循环,反复优化输出,降低幻觉,适合复杂任务。

  2. 场景选型(复杂度‑精度四象限)

  • 低复杂高精度:直接写代码;低复杂低精度:提示词即可;
  • 高复杂高精度:需要带管控的 Agent(法律文书、税务填报);
  • 高复杂低精度是 Agent 最佳落地场景,例如资料写报告、发票处理、库存核对;单提示词能搞定就不需要 Agent。
  1. 自主性谱系

    从脚本硬编码→半自主(生产系统主流,在约束内选工具)→完全自主(能力强、难管控),建议优先半自主模式。

  2. 上下文工程:决定 Agent 表现的关键,包含背景、角色、记忆、工具、参考知识,设计差会造成输出不可控。

  3. 任务分解:把大任务拆成小、可检查、输入输出明确的子步骤;出问题可以精准定位修复,是构建 Agent 最重要技能。

二、中级:构建可用的多智能体系统

  1. 评估机制

    简单任务直接判断对错;复杂任务采用LLM 充当评判者,按标准打分评价输出质量。

  2. 区分记忆与知识

  • 记忆(动态):短期内存(过程笔记)、长期内存(复盘经验,无需微调即可迭代优化);
  • 知识(静态):预先导入的文档、数据库,供随时查阅调用。二者不可替代。
  1. 安全护栏三层质量关口

    ①代码检查(格式、字段校验,优先使用);②LLM 判官做事实、语气校验;③人机协同,高风险场景交由人类审核。生产系统一般至少用两类。

  2. 四大基础设计模式

  • 反思:生成‑自我批评‑改写,用于写作、代码生成;
  • 工具使用:调用搜索、数据库、API,实现和外部世界交互;
  • 规划:Agent 自主制定执行步骤;
  • 多智能体协作:任务分给不同专长 Agent 分工完成。
  1. 多智能体四种协调模式

    顺序型(流水线,易调试,推荐起步)、并行(多 Agent 同步执行)、经理层级(经理 Agent 统筹专家,生产最常用)、全对全(自由消息传递,仅适合低风险创意场景,不用于生产)。

三、生产:原型转为成品

  1. 高级任务分解 4 种方式

    功能型(按技术领域)、空间型(按文件目录)、时间顺序型(按阶段)、数据驱动型(按数据分片,适合大数据并行处理)。

  2. 质量修复策略

  • 非 LLM 组件(搜索、OCR 等):调参或更换服务商;
  • LLM 组件:优先优化提示词→更换模型→进一步拆分任务→最后才考虑微调(微调成本高)。
  1. 延迟与成本优化
  • 降延迟:定位瓶颈、可并行步骤并行、分级选用大小模型、精简上下文;
  • 降成本:分级模型、缓存结果、限制输出字段、批量处理。
  1. 可观测性监控
  • 放大(单轮调试):完整追踪提示词、工具调用、token,记录 Agent 决策原因;
  • 缩小(系统健康):监控成功率、幻觉率、质量评分,抽样评估,提前发现系统退化。
  1. 安全重点

    威胁包括提示注入、不安全代码生成、数据泄露、无限循环资源耗尽。启用代码执行必须做沙箱隔离、资源限制、库白名单、输入输出校验等防护。

核心要点回顾

  1. 入门:Agent 依靠迭代循环处理多步骤任务,优先半自主;上下文工程与任务分解是核心;
  2. 中级:必须做评估;区分记忆和知识;三层护栏保障质量;掌握反思、工具、规划、多智能体模式;
  3. 生产:按优先级做质量优化,做好成本延迟管控;完善可观测;安全不仅防外部攻击,还要约束 Agent 自身危险行为。