从「应不应该」到「能不能」

关于智能体治理的讨论,前两年主要停留在原则层面:应当保持透明、应当保留人工介入、应当建立问责机制。这些原则没有错,但它们回答的是「应不应该」,不回答「怎么做到」。

当企业从试验几个智能体转向在生产环境运行几十上百个智能体时,问题就变了。一个智能体每小时可能做出上千个微决策,靠人工逐个审批不现实。传统治理模型依赖静态规则与逐笔人工确认,这套做法在智能体环境里会直接失效——不是因为它不够好,而是因为决策的量级和速度超过了人的处理能力。

于是治理的着力点开始往两个方向移动:一个是把规则嵌入智能体的推理循环,而不是作为外部过滤器;另一个是把责任与边界写成机器可读的契约,在运行期强制。这两个方向的共同点是,治理从文档变成了代码。

契约式治理的核心主张

在开源治理框架里,有一套名为 Agentic Contract Model 的方案常被引用。它的主张是:用类似合同的方式定义智能体与企业环境之间的边界、职责与预期。

与传统软件许可不同,它关注的是行为契约——规定智能体能做什么、应当如何表现、偏离时会产生什么后果。按公开说明,这套框架要求智能体的每一个动作都能追溯到一项具体的契约义务,这样即使遇到此前未见过的情况,智能体也不能偏离其既定目的。

在执行机制上,它定义严格的输入输出边界与中间状态校验。智能体在进入工作流的下一步之前,必须提交合规证明。这就形成了一条数字动作的监管链,形式上类似于金融系统里对交易的审计方式。对开发团队来说,这意味着把符合规范的库集成进持续交付流程;结果是违规的智能体在造成损害之前就被自动中止。

这套框架还处理了责任归属问题。当智能体的失误造成财务损失或数据泄露时,判断责任来源很复杂:可能来自训练数据缺陷、参数配置错误,也可能来自智能体自身的判断。把这几类关系明确下来之后,企业可以更准确地界定责任并更快实施纠正措施。

与原则式治理的差别

把契约式方案与监管侧发布的治理框架放在一起比较,差别会比较清楚。

监管侧的框架通常覆盖面更广,包含伦理、安全、合规与市场准入等维度,适用对象从企业管理者到监管机构。它们提供的是方向与要求,具有监管分量,但在实时控制上缺少技术颗粒度——它不会告诉工程团队在哪个函数里拦截哪个调用。

契约式方案的作用域更窄,聚焦智能体之间以及智能体与系统之间的交互,强调的是运行期校验与强制。它更像一套工程规范,需要与具体的智能体架构集成才能发挥作用。

两者并非替代关系。跨区域运营的企业更实际的组合方式是:用监管框架对齐政策与合规要求,用契约式方案落地技术控制。这个分工在公开讨论中被多次提到。

控制面类工具的位置

除了框架,还出现了专门用于治理的控制面工具。它们的定位是充当安全层,在提示词与响应进入下游系统之前,分析其中是否存在有害内容、数据泄露或策略违规。也有数据平台厂商推出了自己的智能体控制面,提供跨企业的集中可见性,让管理员看到智能体在做什么。

这类工具的价值在于把治理从「事后审计」推向「实时干预」。它们的共同特征是部署在智能体与执行环境之间,属于基础设施而非应用功能。

但需要注意它们的边界:控制面能约束行为,不能保证策略正确。如果一条策略允许智能体访问某个目录,而那个目录恰好放着凭据,控制面不会替你发现这个矛盾。它解决执行一致性,不解决策略质量。

统一治理会带来失败

讨论治理框架时,有一个提醒值得单独提出:把同一套治理标准统一应用到所有智能体上,会导致落地失败。

这个判断背后的逻辑是,智能体的多样性很大。一个只回答常见问题的助手,与一个能修改生产配置的运维智能体,风险画像完全不同。用同一套审批门槛覆盖两者,结果通常是:对低风险智能体过度约束,拖慢业务;对高风险智能体约束不足,留下隐患。

更合理的做法是按自主程度与影响范围分级。分级之后,不同级别的智能体对应不同的监控强度、审批要求与日志保留策略。这个思路与传统 IT 里的分级分类管理一脉相承,只是对象从系统变成了智能体。

另一个常被忽略的问题与所有权有关。现有的治理框架大多假设智能体有单一所有者,但现实中的部署往往涉及内部团队、外部供应商与第三方工具提供方共同参与。当责任分散在多方之间时,事故归因会变得困难。这是当前框架普遍存在的缺口。

成本与时机

治理能力需要投入。按公开讨论中的估算,开源方案本身免费,但集成与维护需要工程投入;商用平台的许可费用通常随智能体数量与数据吞吐量增长。整体上,实施周期被估计为半年到一年。

关于时机,公开讨论给出的建议是:在智能体数量超过少数几个受控部署之前,就应该建立治理层。等智能体在各部门扩散开之后再补,通常会面对策略碎片化与执行不一致的问题,纠正成本更高。

这个建议的合理性在于治理层的位置。它需要位于智能体与执行环境之间,而这个位置一旦有大量业务跑过去,改造就会牵动生产流程。提前铺设的成本,通常低于事后补齐。

中立思辨

需要辩证看待几件事。其一,契约式治理听起来严密,但它对策略编写能力的要求很高。把行为边界写成机器可读的契约,需要有人能把业务规则精确表达出来。如果这一步做得粗糙,后面的运行期强制只会更精确地执行一个错误的边界。

其二,把治理嵌入推理循环,效果取决于嵌入点的可靠性。此前多款智能体框架出现过严重漏洞,其中一些的成因正是把安全检查写在框架自身的执行逻辑里,绕过检查路径即可得手。治理逻辑与执行逻辑共处一个环境,本身就是一个需要正视的信任前提。

其三,控制面工具与治理框架会形成新的技术栈。企业引入的每一层都会增加运维复杂度,也会增加对特定厂商的依赖。在开放标准尚未成熟时,保持可替换性是务实的考虑。

其四,「统一治理导致失败」这一提醒有道理,但也容易被用来作为拖延治理的借口。分级治理不等于不治理;先建立最基础的资产清单与动作日志,比争论分级标准更紧迫。

其五,各类框架的版本成熟度差异较大,部分仍处于早期阶段,公开材料中对其实际落地效果的第三方验证有限。目前官方及行业暂未披露更多细节,后续将持续跟进迭代动态。

给企业治理团队的四条做法

把这场治理转向拆成可执行的动作,有四条。

先建智能体台账。列出生产与开发环境里所有自主运行的智能体、它们能访问的数据、能调用的工具、对应的业务负责人。这份清单是所有后续工作的基础,也通常是最先暴露问题的一步。

把审批门槛与影响范围挂钩。读取公开数据的智能体与能修改生产配置的智能体,不应共用一套流程。按影响范围分级,比按技术栈分类更贴近风险。

把日志设计在部署之前。要能回答「谁授权了这个动作、执行了什么、结果如何、影响范围多大」。事后补日志通常会漏掉最关键的字段。

保留人工介入的通道。无论自动化程度多高,都需要有明确的介入方式与责任人。治理的目标不是让智能体完全自主,而是在可控范围内提高自主程度。