3.1 高级任务分解的四种策略

3.2 生产环境下的质量修复思路

3.3 延迟与成本管控

3.4 可观测性:智能体系统的监控方案

3.5 AI Agent 特有的安全风险与防护手段

第三部分 生产落地:从原型 Demo 到线上成品系统

原型可以跑通不等于可以上线大规模使用。本部分聚焦工程生产实践。

3.1 高级任务分解的四种策略

针对大型多智能体系统,有 4 种任务拆分思路:

  1. 功能型分解:按照技术职能划分。例如前端 Agent、后端 Agent、数据库 Agent,类似软件工程师团队分工。
  2. 空间型分解:按照文件、目录资源拆分。Agent1 处理一部分业务文件,Agent2 处理另一部分。适合庞大代码库,减少任务冲突。
  3. 时间顺序(时序)分解:按照业务阶段划分,上一个阶段全部完成再进入下一阶段。研究阶段→规划阶段→开发阶段→上线阶段。
  4. 数据驱动分解:按照数据分片拆分任务。Agent1 处理第一周日志,Agent2 处理第二周日志。适合海量数据集,方便并行处理提升速度。

3.2 生产环境下的质量修复思路

系统分为非 LLM 组件、LLM 组件,修复策略完全不同。

非 LLM 组件(搜索、RAG 检索、OCR、代码执行等)

修复手段:①调整参数:搜索范围、分块大小、相似度阈值;②更换第三方服务商,切换搜索 API、视觉解析模型。

LLM 组件(生成、推理、信息提取)

修复优先级顺序非常重要:

  1. 第一步:优化提示词,增加约束条件、示例、输出格式;
  2. 第二步:更换适配任务的底层模型;
  3. 第三步:把复杂任务进一步拆分成更小步骤;
  4. 最后手段才使用模型微调:微调成本高,只用来做最后的效果提升。

工程经验:绝大多数项目做到第二步,就可以满足业务质量,不需要走到微调。

3.3 延迟与成本管控

降低延迟(响应速度)

  1. 对每一步做性能埋点,定位真正瓶颈;
  2. 没有依赖关系的步骤尽量并行运行;
  3. 模型分级策略:简单任务使用轻量快速模型,高推理难度任务使用大模型;
  4. 选择 token 吞吐速度更快的服务商;
  5. 精简上下文,提示词越短解码越快。

降低成本

参考研究类 Agent 单次运行成本示例:大模型生成 0.04 美元,搜索 API0.02 美元,嵌入向量 0.005 美元,基础设施 0.015 美元,单次合计 0.08 美元。每日运行 1000 次,单日成本 80 美元,月成本 2400 美元。

降本方法:

  1. 优先优化开销最大的环节;
  2. 分级调用模型;
  3. 积极缓存搜索结果、向量嵌入、摘要,避免重复调用;
  4. 严格限制输出内容,例如强制输出 JSON,限制返回字段数量;
  5. 尽可能批量处理请求。

3.4 可观测性:智能体系统的监控方案

传统软件可以追踪函数调用链路;AI Agent 具备非确定性,相同输入可能输出不同结果,依赖很多外部 API,传统监控不够用。需要两套观测视角:

  1. 放大视角(单轮任务调试)

    完整记录全部提示词、工具调用、token 消耗。不仅记录发生了什么,还要记录智能体为什么做这个决策。

示例日志:“Agent 选择调用搜索,因为用户查询包含‘最新’关键词;反思环节发现 2 处缺陷:缺少引用、时间描述模糊。”

用于定位单次运行故障,定位出错步骤。

  1. 缩小视角(系统整体健康度)

    统计多轮运行的聚合指标:质量评分变化趋势、幻觉发生率、任务成功率。

    不可能人工逐条审核全部运行记录,采用抽样评估,绘制指标趋势。在用户发现问题之前提前捕获系统退化。

3.5 AI Agent 特有的安全风险与防护手段

Agent 安全不只是防外部黑客攻击,更重要的是防止智能体自身做出危险行为。主要风险点:

  1. 提示注入攻击:用户输入恶意内容篡改 Agent 原始指令;
  2. 不安全代码生成:Agent 生成可以读取敏感数据、执行高危操作的代码;
  3. 数据泄露:PII 个人信息、企业机密通过输出或者工具调用泄露;
  4. 资源耗尽:Agent 陷入无限循环,消耗大量 API 资源、算力。

风险最高的功能是代码执行,如果业务必须开启代码执行,落地防护清单:

  1. 使用 Docker 沙箱运行,每次任务结束销毁容器;
  2. 设置硬性资源上限:超时时间、内存上限、CPU 限制;
  3. 只允许运行经过白名单放行的 Python 库;
  4. 在输入交给 Agent 之前做前置校验过滤;
  5. 扫描输出,拦截 API 密钥、隐私信息;
  6. 优先让代码返回结构化 JSON,而不是自由文本。