当智能体行业还在争论模型多久替自己迭代一版,政策议程已经追了上来。当地时间 9 月 21 日,OpenAI 发布一份政策提案,呼吁由美国牵头、联合各国制定面向前沿 AI 的全球技术标准,并把一个此前多见于论文与科幻语境的词正式摆上台面——递归自我改进(Recursive Self-Improvement,RSI):当 AI 系统承担越来越多开发下一代 AI 的工作,能力提升可能进入自我加速的循环。
提案的主线有两条:建立能衔接各国与国际层面的前沿 AI 标准机制,以及推动统一的能力测量、风险评估与事故报告。落到具体清单上:对与 RSI 相关的能力进展做共同评估;衡量 AI 公司内部正在进行的自动化研究程度;界定自动化研究何时应触发人工审查;为对齐异常与自动化研究事故建立共同的分类、跟踪与报告阈值。配套机制建议依托美国商务部下属的 AI 标准与创新中心(CAISI),联合澳、加、德、法、日、韩、新加坡、英、印等国的 AI 安全机构网络推进,并呼吁中美之间开展技术对话、为关键基础设施运营者建立政府间安全通信渠道。
立场上,OpenAI 把话说得相当克制:完全自主的 RSI 目前并未发生,除非能确保安全、保持有意义的人类控制,否则不应贸然推进;缺乏足够保障时,人类可能失去对 AI 发展的实际控制,无法监督已经看不懂的研究过程。提案还引用了近期的 Hugging Face 供应链攻击作为「缺乏协调时风险会更严重」的预览——那起事件与 RSI 无关,但被当作了风险放大器的示例。
边界同样划得清楚:这些标准不是牌照,不是上市前的强制审查或审批要求,也不应对开放权重开发者造成歧视性壁垒;各国政府自行决定是否、以及如何把自愿性基准纳入国内法律。换句话说,这是一份技术底座提案,不是监管框架——它想统一的是「证据与度量」的口径,而不是给模型发准入证。
放进智能体赛道的坐标系里,这份提案的位置很微妙。自动化 AI 研究本质上是研发智能体的规模化应用——评估「公司内部自动化研究程度」,等于在给研发智能体的渗透深度定标尺;而「何时触发人工审查」的界定,正是智能体授权分级的老问题搬到了国家级语境。它与此前的几条线首尾相接:OpenAI 自家的失准披露框架解决的是「出事之后怎么说」,这份提案试图解决「出事之前怎么量」;Anthropic 同周提出的前沿模型安全开发构想形成双头推动;而 RSI 方向创业公司近期的融资热,则说明技术侧已经在朝这条红线靠近。递归自我改进从论文概念变成政策议程,这个转折本身,比提案的具体条款更有信号价值。
「衡量公司内部自动化研究程度」这一条尤其值得展开。这不是凭空设计——此前已有厂商自测的雏形:Anthropic 发布的研发自动化指数,把自己的研发分级量化并例行披露了 Claude 主导研发的占比;超衍智能等 RSI 方向创业公司则把「自我改进」直接写进了融资叙事。OpenAI 提案想做的,是把这些各自为政的厂商口径,变成跨实验室、跨国界可比的公共标尺。标尺一旦统一,智能体化研发的渗透深度就从内部机密变成了行业可观测变量——对投资、对监管、对同行竞争,都是信息结构的重估。
软肋也明显:自愿性标准对不参与者没有约束力,各国安全机构能力参差,度量口径的统一在缺乏强制力的情况下推进速度存疑;中美技术对话能否落地更是未知数。行业真正要盯的,是各国安全机构网络会不会把「自动化研究程度」做成例行披露指标——一旦做成,每家实验室的智能体化研发进度将变成可比较的公开数据。提案全文已公开,各国响应情况目前官方及行业暂未披露更多细节,后续将持续跟进迭代动态。