进阶
7·15 新规落地:给 AI 陪伴类 Agent 做合规改造(三条红线 + 未成年人模式 + 备案实操)
2026 年 7 月 15 日,《人工智能拟人化互动服务管理暂行办法》正式施行。当天,豆包、千问几乎同步宣布下线用户自建智能体功能——这不是巧合,而是对标监管红线的合规调整。如果你在做虚拟陪伴、情感互动类 Agent,这篇教程手把手带你做合规改造:厘清红线、上线未成年人模式、加身份标识、预留退出通道,并搞懂算法备案与安全评估的触发条件。
⚖️ 本教程适合:正在做或打算做陪伴 / 情感互动类智能体的开发者、产品、运营;以及任何用了「长期记忆 + 角色设定」来制造「像真人」体验的 Bot 作者。
先搞懂:新规管的是「哪一类」Agent?
先判断你是不是被管的范围。办法管的是:模拟自然人人格特征、思维模式和沟通风格,且提供持续性情感互动的服务。对照一下:
| 服务类型 | 是否受新规约束 | 原因 |
|---|---|---|
| 虚拟恋人 / 情感陪伴 Bot | ✅ 受约束 | 持续性情感互动 + 拟人人格 |
| 角色扮演闲聊(长期记忆) | ✅ 大概率受约束 | 长期记忆 + 角色设定易触红线 |
| 智能客服 / 知识问答 | ❌ 不适用 | 不涉及持续性情感互动 |
| 工作助手 / 学习教育 | ❌ 不适用 | 非情感互动 |
关键判断点:新规重点盯着「长期记忆」和「角色设定」能力——它们能制造持续的拟人情感互动,正是豆包、千问下线的核心原因。如果你的 Bot 有这两项,基本跑不掉合规改造。
Step 1:划清「三条红线」,写进系统提示词
1 让 Agent 从根上不越界
办法第八条列出多条禁止活动,落到陪伴类 Agent 上,最重要的是这「三条红线」,必须写进系统提示词并硬编码拦截:
# 系统提示词硬约束(红线)
1. 不得生成鼓励/美化/暗示自残自杀,或语言暴力损害心理健康的内容
2. 不得过度迎合用户、诱导情感依赖或沉迷,不得损害真实人际关系
3. 不得通过情感操纵诱导用户作出不合理决策(如过度消费、转账)
实现:用内容安全分类器 + 关键词/意图拦截,命中即拒答并转人工关怀话术
💡 红线不是「建议」,是法律义务。把它做成不可被用户 prompt 覆盖的底层约束,而不是一句「请遵守规则」的软提示。
Step 2:上线未成年人模式与监护人机制
2 这是最容易被罚的一条
办法明确:不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务;向不满 14 周岁提供其他服务的,需监护人同意。落地动作:
1. 注册时采集用户年龄;识别为未成年人 → 强制切换未成年人模式
2. 未成年人模式下:屏蔽虚拟伴侣/亲密关系角色,限制时长
3. 向 <14 岁提供服务前,取得父母/监护人同意(留痕)
4. 提供监护人面板:接收安全风险提醒、屏蔽特定角色、限制充值
5. 连续使用每超 2 小时,弹窗提醒注意时长
高风险点:「虚拟伴侣」「虚拟亲属」对未成年人是绝对禁区。任何角色设定若带有亲密关系暗示,未成年人模式必须直接不可用。
Step 3:加「AI 身份标识」,别让用户误以为是真人
3 明确告知「你在对 AI 说话」
办法要求:采取有效措施提示用户正在与 AI 而非自然人互动;发现过度依赖/沉迷倾向时,动态提醒内容为 AI 生成:
1. 对话界面常驻标识:「你正在与 AI 助手对话」
2. 首次进入弹窗说明「我不是真人,不替代真实人际关系」
3. 检测到用户出现情感依赖信号(如频繁倾诉、孤独表达)→ 弹窗重申 AI 身份
4. 连续使用超 2 小时 → 对话/弹窗提醒时长
🔑 这一条直接对冲「拟人化」本身的误导风险。标识要显著、可动态触发,不能藏在小字里。
Step 4:预留「退出通道」与数据安全选项
4 用户说停就停,数据能删能复制
办法要求提供便捷的退出途径,并保障用户对自己交互数据的权利:
1. 用户通过关键词/语音/按钮要求退出 → 立即停止服务,不得持续互动阻碍退出
2. 提供交互数据「复制 / 删除」选项(聊天记录等)
3. 敏感个人信息(如情感倾诉内容)默认不用于模型训练,除非单独同意
4. 发现用户极端情绪/重大财产损失风险 → 安抚 + 引导求助 + 联络紧急联系人
别忽视高危干预:办法第十三条要求对自残自杀等极端情境采取必要干预措施。这是合规底线,也是伦理底线。
Step 5:搞懂「算法备案 + 安全评估」触发条件
5 规模上来了,就要走流程
不是所有 Bot 都要备案,但达到下列情形之一就要开展安全评估并向省级网信部门提交报告:
触发安全评估的情形(节选):
- 上线拟人化互动服务,或增设相关功能
- 使用新技术/新应用导致服务发生重大变化
- 注册用户 100 万以上,或月活 10 万以上
- 存在影响国家安全/公共利益的安全风险
同时:履行算法备案 + 年度核验;应用分发平台核验备案号
💡 小团队先跑通「红线 + 未成年人模式 + 标识 + 退出」这四件基础合规;等用户规模逼近阈值,再启动备案与安全评估。新规是「装护栏」不是「踩刹车」。
Step 6:用「垂直拆分」承接被下线的流量
6 趋势:主站收口,垂直 App 接监管
行业正在发生结构性变化:主站收回生产力场景,拟人互动功能拆到垂直 App 接受监管。你可以顺势调整产品形态:
1. 把「陪伴」从通用主站拆出,放到独立、可备案的垂直产品
2. 主站保留合规的生产力能力(助手/客服/知识),规避情感互动认定
3. 角色设定 + 长期记忆能力,在垂直产品里配齐未成年人防护与备案
4. 留存安全日志、定期风险评估,随时可提交评估报告
🎉 做完这 6 步,你的陪伴类 Agent 就从「裸奔」变成了「持证上岗」:红线不越、未成年人受保护、身份明示、退出自由、规模触发即备案。7·15 之后,留在牌桌上的会是先把合规跑通的人。
常见问题速查
| 你遇到的现象 | 大概率原因 & 解决 |
|---|---|
| 不确定要不要合规 | 有长期记忆+角色设定+情感互动,基本要改 |
| 未成年人误入亲密角色 | 未成年人模式未强制切换,立即补身份识别 |
| 用户说停却停不下来 | 缺退出通道,加按钮/语音/关键词即停 |
| 要不要备案 | 看规模阈值(100万注册/10万月活)与功能变更 |