2026年6月17日下午,中国人工智能产业发展联盟(AIIA)安全治理委员会在北京召开"智能体时代AI安全治理研讨会"。这是一场没有花哨发布、没有行业宣言的务实会议,但其讨论的内容——Token安全——正在成为整个智能体产业最需要认真对待的基础设施级问题。

按照AIIA安全治理委员会的通告,会议聚焦智能体规模化应用中的Token安全、可信可控与产学研协同共治三大议题。与会的专家来自产学研各端,在智能体(Agent)正从技术概念走向规模化应用的关键节点,讨论"Token作为大模型的核心处理单元,其安全问题如何影响智能体的可信可控"。这场会议的召开本身就是一个重要信号:AI智能体的安全问题,正在从"可以讨论"变成"必须行动"。

为什么是Token安全

Token——大语言模型处理文本的最小技术单位——正在成为一个安全维度上的关键变量。在传统的AI安全讨论中,关注点更多集中在数据隐私、模型盗用、对抗攻击等维度。但随着智能体从"对话式AI"升级为"行动式AI",Token的角色发生了根本性变化。

当智能体开始调用工具、执行代码、操作数据库、完成支付流程时,每一个Token的生成过程都涉及对系统指令的遵循、对用户意图的理解、对外部环境的判断。Token不仅承载语义,更承载执行指令——如果一个Token序列被恶意注入或操控,后果可能不再是"说错话",而是"做错事"。

这并非杞人忧天。金融展上阿里云副总裁张翅提到的"输入信息不可信、操作执行不可控、决策过程黑箱、AI权责边界模糊"四大痛点,每一个都与Token层面的安全设计紧密相关。如果AI Agent在生成一个表示"确认交易"的Token时缺乏安全校验机制,金融行业的合规红线就无从谈起。

从"管模型"到"管行动":治理范式的跃迁

AIIA此次研讨会的一个核心观察是:智能体时代的AI治理正在经历从"管模型"到"管行动"的范式跃迁。

过去几年,AI监管的重心在模型层面——训练数据的合规性、模型输出的有害内容过滤、模型参数的出口管制。这些管理措施的核心假设是:AI的输出停留在"信息"层面,不会直接对现实世界采取行动。

但智能体的出现打破了这一假设。一个智能体可以订机票、写代码、操作ERP系统、调用支付接口——它的输出不再只是信息,而是直接影响业务流程的真实操作。AI安全治理的对象,从"模型说什么"扩展到了"模型做什么"。

如何确保Token序列在转化为实际操作时的安全性和可控性?如何建立智能体操作的可追溯审计机制?如何在多Agent协作场景中防止一个Agent的缺陷通过Token传递波及其他Agent?这些都是当前技术治理框架尚未充分回答的问题。

产学研协同共治:从合规底线到技术创新

本次研讨会的另一个显著特点,是强调"产学研用协同共治"。这不是一句套话——在AI Agent安全治理领域,无论是学术界、产业界还是监管端,都处于边探索边推进的阶段。

从学术角度看,Token层面的安全机制研究尚处于早期。当前主流的AI安全研究仍集中在模型对齐、红队测试、对抗样本等领域,针对Agent在Token序列层面的主动安全设计(如操作级权限控制、Token级完整性校验)的研究成果相对有限。

从产业角度看,头部企业已经开始将安全能力前置。360AI安全研究院在6月11日发布的智能体安全新范式报告中提出了ASM五阶段安全成熟度模型,将Agent安全从"说错话"的语义安全升级到"做错事"的行为安全。这一模型与本次研讨会的方向高度一致。

从监管角度看,治理框架的构建正在加速。6月10日,工信部批准的具身智能国标YD/T 6770正式实施;国际上,G7峰会首次邀请OpenAI、Google、Anthropic三巨头共商AI治理。治理框架正在以月为单位加速成型。

安全与效率:智能体产业必须同时回答的两个问题

AIEC 2026大会上IDC预测的2029年中国GenAI市场近千亿美元规模,代表着智能体产业的"增长预期"有多强;而AIIA安全治理研讨会的召开,则提醒行业"安全底线"有多重要。

没有安全基座的增长是不可持续的。在金融行业,合规是入场券;在航空业,安全是生命线;在医疗行业,可信是决策前提。如果智能体安全治理框架不能跟上技术迭代的步伐,智能体规模化应用最需要的"信任"将始终缺位。

一个行业的治理成熟度,不能等到事故频发后才被动提升。AIIA安全治理委员会选择在6月17日召开这场研讨会,时机并非偶然——就在此前一周,Fable 5从发布到被出口管制的72小时事件已经向全行业揭示了"能力越强,治理需求越紧迫"的残酷逻辑。

Token安全,看似是一个技术细节,实则是智能体安全治理的最小治理单元。当行业开始关注Token层面的安全设计,意味着AI安全治理正在从"宏观监管"下沉到"微观工程"——而这,正是产业走向成熟的关键标志。

← 上一篇:航空业进入"智能体交易"时代 下一篇:企业AI规模化部署进入深水区 →