安全护栏（Guardrails）

主题护栏限制 Agent 只处理授权领域（如「只谈理赔，不谈投资建议」）。格式护栏强制输出符合 Schema（如必须返回合法 JSON）。安全护栏拦截违法、暴力、隐私泄露内容。权限护栏对工具调用做白名单与审批控制。

实践中常用 Rebuff、Guardrails AI、LiteLLM 等框架在推理前后插入校验节点。

前置校验：用户请求进入前先做意图分类与敏感词/正则扫描；后置校验：模型输出后再做合规审核与格式校验；过程校验：对每一步工具调用做权限与参数校验。

校验失败时的策略包括：拒绝回答、引导到安全话题、要求人工审批，而非简单报错。

模型自身有对齐训练（RLHF、Constitutional AI），但 Agent 打开了工具与数据，仅依赖模型对齐不足。护栏提供可审计、可配置、可更新的额外防线，且与具体业务规则解耦——合规要求变了，改护栏即可，无需重训模型。

护栏正从「规则脚本」演进为「自适应的策略层」：结合在线学习识别新型风险，并在边缘侧（端侧模型）做轻量实时校验，实现安全与延迟的平衡。