红队测试（Red Teaming）

红队团队（或自动化红队工具）模拟真实攻击者，针对 Agent 发起组合攻击：越狱获取违规输出、prompt injection操纵行为、权限滥用试探过度代理、数据外泄验证出口管控、供应链污染工具。目标是暴露「理论上安全、实际上可被击穿」的缝隙。

自动化红队：用攻击语料库批量探测（如 jailbreak 模板、注入样例），适合回归测试。人工深度红队：专家做多步、创造性组合攻击，发现自动化遗漏的 0-day 式漏洞。持续红队：模型/工具每次更新后重测，防止「修一个漏一个」。

金融、医疗等强监管行业常把红队报告作为上线前置条件。红队产出不是「安全分」，而是可执行的漏洞清单 + 修复优先级，驱动防御迭代（护栏规则增补、权限收敛、监控补全）。

红队将从「项目制」演进为「平台能力」：Agent 平台内建持续红队流水线，每次发布自动跑对抗测试并阻断高危漏洞，安全左移成为开发标配。