OpenAI推出的《构建Agents实用指南》全面阐述了基于大语言模型（LLM）的Agents开发框架。Agents作为能独立执行多步骤工作流的AI系统，凭借动态决策、工具调用和错误恢复能力，在客服审批、欺诈检测等传统规则难以处理的复杂场景中具有独特优势。核心架构包含三大要素：根据任务复杂度选择的LLM模型、分类为数据/操作/编排的工具系统，及结构化的指令设计。指南提出渐进式开发策略，从单Agent模式起步，逐步扩展至管理者模式（中心协调）或去中心化模式（任务交接）的多Agents系统。安全机制基于分层防护体系，结合PII过滤、内容审核与人工干预，确保系统安全可控。实施层面强调小规模验证与持续迭代，助力团队实现智能工作流的自动化部署。本指南为开发者提供从理论到实践的完整技术路径。
引言
大语言模型（LLM）在多步骤复杂任务中的表现日益成熟。推理能力、多模态支持与工具使用的进步，催生新一代LLM驱动系统——Agents。本指南面向希望构建首个Agents的产品与工程团队，结合多个客户部署经验，提炼出可操作的实用方法。内容涵盖用例识别框架、Agents逻辑与编排设计模式，及保障系统安全、高效运行的最佳实践。通过本指南，读者将掌握构建Agents所需的核心知识。
什么是Agents？
传统软件通过自动化简化用户工作流，Agents能用高度独立性代表用户完成完整工作流。Agents是能自主实现任务目标的系统，工作流包括解决客服问题、预订餐厅、提交代码变更或生成报告等一系列步骤。仅集成LLM未用在控制工作流的应用（如简单聊天机器人或单轮任务处理）不属于Agents范畴。
Agents的核心特性包括：
- 基于LLM的工作流管理与决策：能识别任务完成状态，主动调整行为，在失败时停止执行、交还用户控制权。
- 工具调用与外部系统交互：动态选择合适工具，在明确防护机制下获取上下文或执行操作。
何时应构建Agents？
Agents适用传统规则引擎难以处理的复杂工作流。以支付欺诈分析为例：规则引擎依赖预设条件判断，Agents更像经验丰富的调查员，能评估上下文、识别微妙模式，在规则未明确禁止的情况下能发现潜在风险。
以下场景适合构建Agents：
- 复杂决策需求：涉及微妙判断、例外处理或上下文敏感的任务，如客服退款审批。
- 规则维护困难：因规则复杂导致更新成本高或易出错的系统。
- 依赖非结构化数据：需理解自然语言、文档提取或对话交互的场景，如保险索赔处理。
Agents设计基础
Agents的基础架构包含三个核心组件：
- 模型：驱动推理与决策的LLM。
- 工具：Agents调用的外部函数或API。
- 指令：明确定义智能体行为的指南和防护措施
以下是用OpenAI的Agents SDK时代码中的示例。也可以使用喜好的库或直接从头开始实现相同的概念。
模型选择
不同模型在任务复杂度、延迟与成本上各有优劣。可根据工作流中不同任务的需求混合使用多种模型。例如，简单检索任务可由小型模型处理，复杂决策任务需要更强模型。建议先用最强模型建立性能基线，再尝试替换为小模型优化效率。模型选择原则包括：
- 建立评估基准。
- 优先使用满足准确率要求的模型。
- 在适当场景中使用小模型以优化成本与延迟。
完整模型选择参见OpenAI模型选择文档。
工具定义
工具通过底层系统API扩展Agents能力。对于无API的遗留系统，Agents通过模拟人类操作直接与UI交互。工具应标准化定义，支持灵活的多对多关系。完善文档与测试可提升工具可发现性，简化版本管理。
Agents所需工具分为三类：
- 数据工具：获取上下文信息，如查询数据库或读取PDF。
- 行动工具：执行具体操作，如发送邮件或更新记录。
- 编排工具：将其他Agents作为工具使用，例如退款Agents或研究Agents。
例如，以下是为agents添加工具的代码示例：
指令配置
高质量的指令对Agents至关重要。清晰指令可减少歧义，提升决策质量。Agents指令的最佳实践：
- 利用现有文档（如操作手册或政策文档）构建流程。
- 将复杂任务拆分为明确步骤。
- 为每个步骤指定具体操作或输出。
- 预判常见边缘情况并通过条件分支处理。
编排
完成基础组件后，通过编排模式实现工作流的高效执行。客户经验表明，渐进式开发路径更为有效。编排模式分为两类：
- 单Agent系统：单个模型通过工具逐步处理多任务。
- 多Agent系统：工作流由多个协同Agents分布式执行。
单Agent系统
单Agent通过逐步添加工具处理多任务，保持复杂度可控，简化评估和维护。每个新工具在不强制编排多Agent的前提下扩展能力。
例如，在Agents SDK中，智能体通过Runner.run()方法启动，该方法循环遍历LLM，直到：
- 调用了最终输出工具，由特定输出类型定义。
- 模型返回没有任何工具调用的响应（例如，直接用户消息）。
管理复杂性的有效策略是使用提示模板。与其维护多个独立提示，不如使用接受策略变量的灵活基础模板。新用例出现时，更新变量而非重写整个工作流。
何时考虑多Agents
建议先最大化单Agent能力。多Agents能直观分离概念，但增加复杂度，通常单Agent加工具就已足够。对复杂工作流，将提示和工具分配到多Agent能提升性能和扩展性。若Agents无法遵循复杂指令或持续选错工具，需要拆分系统引入更多独立Agents。
拆分Agents的实用准则：
- 复杂逻辑：当提示含多条件语句（多个if-then-else分支）且模板难以扩展时。
- 工具过载：问题不仅是工具数量，更是其相似性或重叠。
多Agents系统
虽然多Agents系统可针对特定工作流多样化设计，但客户经验表明有两类广泛适用模式：
- 管理者模式（Agents作为工具）：中心"管理者"Agents通过工具调用协调多个专业Agents，各自处理特定任务或领域。
- 去中心化模式（Agents间交接）：多个Agents作为对等体，根据专长交接任务。
管理者模式
通过中心LLM（"管理者"）无缝协调专业Agents网络。管理者智能地将任务委派给合适Agents，综合结果提供统一交互体验，确保用户始终能按需调用专业能力。此模式适合需单一Agents控制工作流、接触用户的情况。
例如，以下是在Agents SDK中实现此模式的方法：
去中心化模式
Agents通过"交接"转移工作流执行权。交接是单向工具调用，支持Agents委派任务。交接后立即在新Agents上执行，同时转移最新会话状态。此模式适合无需中心Agents控制或综合的情况，由专业Agents完全接管特定任务。
例如，以下是使用Agents SDK为处理销售和支持的客户服务工作流程实现去中心化模式的方法：
防护机制
精心设计的防护机制帮助管理数据隐私风险（如防止系统提示泄露）或声誉风险（如强制品牌对齐行为）。可针对已知风险设置防护，并随新漏洞出现逐步叠加。防护是LLM部署的关键组件，需结合身份验证、严格访问控制和标准软件安全措施。
防护机制应视为分层防御体系。单一防护不足，多专业防护结合能创建更健壮的Agents。
在下图中，展示了基于LLM的防护措施、基于规则的防护措施（如正则表达式）和OpenAI的审核API来审核我们的用户输入。
防护类型
- 相关性分类器：通过标记离题查询确保Agents响应不偏离预期范围。
- 安全分类器：检测试图利用系统漏洞的不安全输入。
- PII过滤器：通过检查模型输出中的潜在个人身份信息，减少不必要暴露。
- 内容审核：标记有害或不适当输入，维护安全尊重的交互。
- 工具保护：根据工具风险分配低/中/高风险评级，触发自动操作。
- 基于规则的防护：简单确定性措施阻止已知威胁。
- 输出验证：通过提示工程和内容检查确保响应符合品牌价值观。
建立防护机制
为用例设置解决已识别风险的防护措施，在发现新漏洞时逐步增加新的防护措施。我们发现以下启发式方法非常有效：
- 专注于数据隐私和内容安全 。
- 根据您遇到的真实世界边缘案例和失败添加新的防护措施 。
- 在优化安全性和用户体验之间取得平衡，随着您的智能体演变调整防护措施。
例如，以下是使用 Agents SDK 设置防护措施的方法：
人工干预计划
人工干预是关键保障，能在不影响用户体验的前提下提升Agents实际表现。部署初期尤为重要，能帮助识别失败、发现边缘案例并建立健壮评估周期。实现人工干预机制使Agents无法完成任务时主动转移控制权。
两个主要触发场景需要人工干预：
- 超出失败阈值：设置重试或操作限制，如多次尝试仍无法理解用户意图。
- 高风险操作：敏感、不可逆或高影响操作在Agents可靠性不足时需人工审核。
结论
Agents标志着工作流自动化的新时代——系统能推理模糊性、跨工具操作并以高度自主性处理多步骤任务。与简单LLM应用不同，Agents端到端执行工作流，特别适合复杂决策、非结构化数据或脆弱规则系统的场景。
构建可靠Agents需扎实基础：强模型配合明确定义的工具和清晰指令。采用匹配复杂度的编排模式，从单Agents开始，必要时扩展至多Agents系统。防护机制在每阶段都很重要，从输入过滤、工具使用到人工干预，确保Agents在生产中安全可预测地运行。
成功部署非一蹴而就。从小开始，真实用户验证，逐步扩展能力。正确的基础和迭代方法能让Agents以智能和适应性实现真实业务价值——自动化不仅是任务，更是整个工作流。
更多资源
资源资料下载地址
《构建Agents实用指南》下载地址：https://url23.ctfile.com/f/65258023-1546474105-e5ed43?p=8894 (访问密码: 8894)
相关文章
