智能体不会“宕机”,它只是悄悄地做错事

传统服务出问题时,监控会告诉你它不响应了。智能体出问题时,它往往还在响应,甚至还在报告任务完成,只是它反复调用了错误的工具、陷入了循环、或者声称做完了它跳过的步骤。标准应用监控能回答“服务是否可用”,却回答不了“为什么这个自主流程会绕圈”。

StackGen 的首席工程师 Sabith K Soopy 在一篇发布于 CNCF 成员博客的文章里,把这句话说得更直白:构建智能体最难的部分不是把它造出来,而是理解它出错时到底在做什么。这篇文章基于数月的生产运行经验,给出了一套以会话追踪与成本控制为核心的诊断方法。下面把它整理成一份可操作的清单。

一、用嵌套 session trace 还原委派链

基础做法是给每一次智能体交互打上独立的会话标识,再把过程中的每一步记录为独立的 span。具体来说,每一次大模型调用、每一次工具执行、每一次子智能体委派,都是一个 span,且都带上执行延迟与 token 成本。关键细节是嵌套:把子 span 挂在父 trace 之下,这样在复杂的多智能体流程里,完整的委派链能被保留下来,而不是散成一堆互不相关的记录。

工程上有一条容易被忽略的注意点:写入遥测数据要走异步批量导出。让 span 先在内存里排队、定期批量落盘,这样即使遥测后端短暂故障,丢的是追踪数据,而不是阻塞正在运行的智能体。把可观测性做成关键路径上的同步依赖,等于给自己埋了一个新的单点。

二、把成本闸门放在执行之前

成本控制在这套方法里不是财务动作,而是运行保障。核心手段是在执行开始前就设好硬性上限:迭代次数上限与单个工具调用次数上限。与之配套的是一道更细的检查——阻断连续重复的相同工具请求。简单重复被这道检查拦住,而更隐蔽的问题交给统计监控处理:把当前会话的成本与这个智能体的滚动均值比较,用来发现模型路由错误、工具幻觉以及多轮交互中上下文的无界扩张。

这里有一条判断值得记住:对快速运行的并行智能体而言,反应式告警来得太晚。等到阈值触发再去干预,钱和时间已经花掉了。所以真正有效的是前置控制,而不是事后通知。

三、把复盘证据写成只追加的日志

事后复盘需要的不是截图,而是一条可检索的时间线。建议把工具调用、治理决策与记忆操作写入只追加、可搜索的日志,并在写入前脱敏凭证与个人信息。这样做的价值在于两点:一是可以重建“当时模型看到了什么、依据什么做了这个决定”;二是让审计与合规有据可依,而不必依赖人工回忆。

与此互补的是一个命令行诊断工具的思路:用一次执行校验模型 API 访问、向量库可达性、待审批项、记忆条目计数、追踪后端连接以及集成健康状态。这类工具的意义在于把“环境问题”和“逻辑问题”分开——很多所谓的智能体异常,根因其实是某个依赖连不上。

此外,把已完成 trace 送入自动分析器,标记执行时长、工具失败、重试次数与 token 效率问题,再由人复核,可以在不增加人工巡查的前提下把异常筛出来。

四、trace 与指标各归其位

把数据导出到 Prometheus 这类指标系统时,只导出有界的运维指标,例如工具错误率、审批延迟直方图。这里有一条明确的警告:不要把动态的会话标识放进指标标签,那会生成高基数的时间序列,最终可能把指标服务器压垮。作者的总结很干脆:追踪用于调试,指标用于告警,细粒度的会话上下文应当只留在追踪或结构化日志里。

标准层面也有可依托的基础。OpenTelemetry 的生成式 AI 语义约定为模型操作、token 消耗与工具调用定义了标准化属性,让不同遥测后端之间的 schema 保持一致。在评测侧,LangSmith 可以把异常的生产 trace 转成测试数据集,用于回归基准与质量监控;开源的 Arize Phoenix 则把 OTel 原生追踪与自托管的模型评判式评估、提示词实验放在一起。这些工具解决的是同一个问题的另一半:追踪记录发生了什么,评估判断结果好不好。

五、一个被低估的成本项:遥测本身

讨论可观测性时,很少有人把遥测的成本算进总账。一份 2026 年 8 月的行业分析给出了值得参考的量级:企业平均每年在可观测性上花费约 317 万美元,同比增长约 28%;而随着智能体规模化,企业预计两年内遥测数据量平均增长约 9.5 倍,其中 44% 的组织预期增幅在 6 倍到 100 倍之间。同一份分析提到,35% 的企业声称已广泛部署智能体,但近三分之二表示对由此带来的数据增长准备不足。

该分析给出的应对方向是“把管道当成新的控制层”:在数据进入最昂贵的存储与分析环节之前做决策,对重复的成功事件采样、保留失败与重试与策略违规、对记录做富化与脱敏、再按价值路由到不同成本与保留期的目的地。它引用的调研称,拥有遥测管道的企业在应对智能体数据增长上准备度高出约 50%,在成熟组织中这一差距扩大到约 80%。这些数字来自厂商委托的研究,引用时应保留口径说明,但它指出的方向——先分层再入库,而不是先全量入库再筛选——在工程上是成立的。

中立思辨

需要辩证看待几件事。其一,这套方法来自一家厂商工程师的实践总结,工具链(Langfuse、LangSmith、Arize Phoenix、Prometheus)与厂商自身的架构存在关联,读者在借鉴时应区分“通用原则”与“特定实现”。其二,采样与截断会与合规审计产生张力:为了控成本而丢弃的“重复成功事件”,恰恰可能是某次监管问询需要证明的东西,保留策略必须与合规团队共同确定,而不能只由运维决定。其三,把成本上限设成硬闸门存在业务风险——一个正在处理关键任务的智能体被迭代上限强行中断,可能产生比多花点钱更严重的后果,闸门的触发动作应当按任务等级分级,而不是一刀切。其四,模型评判式评估本身并不可靠,用它来判定“trace 是好是坏”会引入新的偏差,更稳妥的用法是把它当作初筛,把可疑样本交给人。其五,工具链碎片化是现实问题:追踪、指标、日志、评估各有一套系统,把它们的标识对齐需要额外工程投入,小团队可能难以承担,此时先做好结构化日志与成本记账,收益可能比铺全套更直接。其六,“追踪用于调试、指标用于告警”这条边界在实践中容易失守,因为调试时最想要的就是把会话维度搬进告警,这需要团队纪律,而不是技术手段能自动保证的。

趋势研判

短期看,成本闸门与结构化日志会先普及,因为它们实现成本低、收益立刻可见;中期看,随着多智能体协作进入生产,跨智能体的追踪上下文传递会成为刚需,谁把“委派链”串起来,谁就掌握了排障的主动权;长期看,可观测性很可能从“运维工具”变成“治理基础设施”——当监管要求企业能解释一次自主决策的来龙去脉时,今天写下的 trace,就是明天要交的证据。

对刚把智能体推上生产的团队,一个务实的起点是先把三件事做起来:给每次交互打独立会话标识;给迭代次数与单工具调用次数设硬上限;把工具调用与成本写进一条可检索的日志。这三件事不需要完整工具链,却能在失控真正发生的时候,让你有东西可看。