想象一个真实场景。
你对 AI 说:“帮我分析昨天生产环境最慢的十个接口,找出可能的性能瓶颈,并整理一份优化建议。”
传统聊天模型往往告诉你:去看 APM、查慢 SQL、分析执行计划。它给出了方法,却没有真正进入你的业务系统。
如果这是一套获得授权、连接监控、日志及代码检索工具的 AI Agent 系统,它可以先查询监控指标,找到慢接口,再沿调用链定位异常 SQL、阅读执行计划、关联代码,最后生成一份附证据的诊断报告。真正修改数据库索引或发布代码,则应交给审批流程,而不是让它自由执行。
这里最大的变化是:大模型从“生成一段回答”,变成“参与控制一个多步骤任务”。
图 1|Agent Loop:从目标到结果的工作闭环
图 2|一次工具调用的决策、校验、执行与返回
一、AI Agent 到底是什么?用最简单的话说:AI Agent 是由大模型参与决策、能够使用工具并管理任务状态,围绕一个目标持续执行的软件系统。
它通常包含四种核心能力。
模型(LLM):理解目标、判断下一步;工具(Tools):调用 API、查询数据、执行测试等;状态(State):保存当前任务进展和必要上下文;执行控制(Runtime):负责循环、超时、验证、停止和恢复。
注意一个容易混淆的地方:大模型本身不会凭空获取数据库权限。“查询订单”是应用程序提供的函数或服务,Agent 只是根据上下文选择合适的工具和参数。真正执行权限校验和数据库查询的,仍然是软件系统。
因此,Agent 并不等于一个新的大模型。你完全可以在相同底座模型上构建普通聊天助手、固定工作流或动态执行的 Agent,三者的系统行为却很不一样。
二、从聊天到行动,究竟发生了什么?传统聊天应用大致是:用户提问 → 组合 Prompt → 模型生成 → 返回答案。
Agent 则需要一个可重复的执行过程:
理解目标:确认用户想得到的结果、允许的工具及约束。
判断下一步:模型选择回答、继续分析或者请求工具。
执行工具:运行时验证请求,调用外部系统。
观察结果:把真实工具结果作为新的上下文。
重新决策:继续调用、请求人工审批,或者结束。
验证完成:对照任务的成功条件检查结果。
这个循环常被称为 Agent Loop。
一次工具调用是什么样的?假设 Agent 有一个只读监控工具 `query_api_errors(hours, top)`,模型可能输出:
{"tool":"query_api_errors","arguments":{"hours":24,"top":10}}这还不是执行结果。运行时要先检查工具是否允许调用、参数是否有效、用户是否具有查询权限;调用完成后,将真实返回交给模型。Agent 才能够根据证据继续分析。
这一区别很重要:模型负责提出操作意图,业务应用负责控制真实副作用。
三、企业级 Agent 的架构,至少有六个部分
图 2|企业级 Agent 的六层参考架构
入口层:用户身份、租户、API 鉴权和任务参数。
决策层:模型与 Prompt、规划策略、模型路由。
执行层:Agent Loop、工具派发、调用预算、超时和错误恢复。
能力层:内部 API、检索服务、MCP Server、代码沙箱等。
状态层:当前任务、会话消息、检查点和必要的长期记忆。
治理层:审批、审计、Tracing、评测、成本监控。
这些是逻辑职责,不意味着必须拆成六个微服务。小项目可以用一个服务实现,随着业务扩展再分离运行时、工具网关和观测平台。
架构师尤其需要关注三个边界:
信任边界:模型输出和外部网页、文档都属于需要验证的输入,不能直接当成操作命令。
副作用边界:读监控数据与删除生产记录不是同一风险等级。写操作需要额外确认。
执行边界:必须限制循环次数、工具预算、运行时长和并发,避免 Agent 无限制重试。
四、真实业务案例:Agent 如何定位慢 SQL?假设某企业 ERP 接口 `GET /api/orders` 突然变慢。传统流程需要工程师手工切换 APM、日志系统、数据库和代码仓库。
Agent 可以把调查变成一个可验证的分析链路:
图 3|慢 SQL 诊断工作流
步骤一:明确诊断范围。 用户授权只读访问昨天的监控和 SQL 指标,并限定系统及时间窗口。
步骤二:查询慢接口。 Agent 调用 APM 工具,取得响应时间分位数、请求量和错误率,而不是凭模型猜测瓶颈。
步骤三:关联链路。 通过 Trace ID 找到耗时最明显的数据库调用或下游请求。
步骤四:验证原因。 查询脱敏慢 SQL 与执行计划,分析全表扫描、索引选择、排序、锁等待等可能性。
步骤五:给出方案。 每条建议附实际证据、风险和验证手段,比如“建议检查某过滤列索引,但需用生产近似数据验证写入负担及执行计划”。
步骤六:人工审批。 索引变更、SQL 重写或发布操作经 DBA 或研发人员审批执行。
这里的 Agent 不应宣称“已修复性能问题”,因为生成建议与线上修复是两个不同的操作阶段。
五、最小代码:用 Python 构建一个工具型 Agent以下代码采用 OpenAI Agents SDK 的基础接口,演示模型如何调用一个模拟的只读监控工具。示例不会访问真实生产监控,也不涉及数据库写操作。
安装依赖:
python -m venv .venv
# Windows: .venv\Scripts\activate
# macOS/Linux: source .venv/bin/activate
pip install openai-agents在执行环境中配置 `OPENAI_API_KEY`,不要把密钥提交到仓库。
import asyncio
from agents import Agent, Runner, function_tool
@function_tool
def query_slow_apis(hours: int) -> str:
"""获取过去指定小时数的慢接口摘要(演示数据)。"""
if not 1 <= 1 72 hours <="72:" raise valueerror("hours 必须在 到 之间") return ( "演示数据:get api orders p95="1800ms;"" "其中数据库调用耗时约 1400ms。" "注意:这不是生产监控结果。" ) agent="Agent(" name="API Performance Analyst" , instructions="(" "你是性能分析助手。分析接口时先调用监控工具。" "必须区分观察结果、推断和待验证假设。" "不要声称已经修改数据库或修复线上问题。" ), tools="[query_slow_apis]," async def main(): result="await" runner.run( agent, "查询过去24小时的慢接口,给出可能原因和下一步验证建议。" print(result.final_output) if __name__="=" "__main__": asyncio.run(main())代码演示的是一个具备工具能力的最小 Agent,不是可直接上线的性能诊断平台;模型名称、接口权限、日志脱敏、工具结果结构与运行成本都需要额外设计。代码依照官方 SDK 接口编写,本稿未使用真实 API Key 执行端到端调用,因此不能宣称已通过真实环境验证。
真实工程中还应返回 JSON 结构化监控数据,而不是把关键指标拼成一段字符串。
六、Agent、Workflow、Function Calling、MCP 和 Skill 有什么区别?
图 7|Agent 与 Workflow 的应用场景和选型判断
图 6|Agent、Workflow、MCP 和 Skill 技术边界
概念
核心定位
典型用途
LLM
生成、理解与决策基础能力
语言理解、规划建议
Workflow
按预定义流程组织执行步骤
固定审批、定时 ETL
Agent
根据目标和反馈动态决定下一步
多步骤诊断、复杂任务执行
Function Calling
模型与工具的结构化交互机制
调用业务函数/API
MCP
AI 应用连接外部上下文与工具的协议
统一集成多个工具服务
Skill
可复用的任务说明与能力封装方式
固定工作规范与操作步骤
这几种技术不是替代关系。例如,一个 AI Agent 可以读取 Skill 中规定的分析步骤,通过 MCP 调用工具,同时把高风险操作交给确定性的 Workflow 审批。
不是所有任务都值得使用 Agent。 对于“每晚 2 点导出报表”这种顺序稳定、规则明确的任务,传统调度和 Workflow 通常更可控、更经济。而“分析为什么今天接口变慢”这种需要根据不完整证据不断选择下一步的任务,更适合受控 Agent。
七、让 Agent 真正投入生产,架构师需要解决什么?
图 8|生产级 Agent 的安全治理边界
1. 权限不是 Prompt 可以保证的不能只告诉模型“不要删除数据”。真实系统需要只读账号、工具白名单、参数校验、沙箱和敏感动作审批。授权必须在运行时执行。
2. 结果必须可验证Agent 可能生成合理却错误的推断。正确做法是要求结论附工具来源、日志、指标和执行计划;不能验证的结论应写成待调查假设。
3. 任务可能失败、中断或重复网络超时、模型调用失败、工具变化都可能打断执行。需要 Checkpoint、幂等任务 ID、重试限制及失败后的人工接管。特别是具有副作用的工具,不能无条件自动重试。
4. 成本会随着循环增长一次聊天请求可能只调用模型一次,Agent 可能多次调用模型、数据库或搜索服务。应监控 Token、工具耗时、循环轮数和单任务总预算,并设定硬性退出条件。
5. 评测应以真实任务成功为中心判断 Agent 是否好用,不只看回答是否流畅。更需要关注:任务完成率、证据准确性、风险动作拦截率、平均完成时间、单任务成本,以及失败后能否解释和恢复。
八、给程序员的技术选型建议如果你的任务只是把用户问题交给模型回答,优先做普通 LLM 应用。
如果任务有稳定的输入、输出和固定步骤,优先考虑 Workflow。
如果任务必须根据外部证据动态选择下一步,而且确实需要工具协作,再引入 Agent。
初期从单 Agent + 少量只读工具 + 明确完成条件开始。先把质量、可靠性、追踪和权限做正确,再评估是否需要多 Agent 协作。不要一开始就创建许多“专家 Agent”,却没有清楚的责任边界和验收机制。
九、总结:判断一个系统是不是 Agent,看这三个问题第一,它是否能围绕明确目标管理多步骤任务,而不只是输出一段建议?
第二,它是否能在受控权限下根据实际工具结果调整下一步,而不是完全依赖预设死流程?
第三,它是否有完成验证、停止、失败恢复和必要的人工接管机制?
大模型提供智能决策能力,工具连接真实世界,运行时保证执行秩序,治理体系负责把风险控制在可接受范围内。 这四者组合,才是值得投入生产环境的 AI Agent 系统。
下一篇:《一张架构图讲透 AI Agent、MCP、Skill:它们到底是什么关系?》