AI Agent 术语

护栏

限制 Agent 高风险行为的规则、校验步骤、政策或审核门槛。

定义

护栏是帮助 Agent 留在可接受边界内的控制措施，可以是提示词规则、政策检索、schema 校验、审批流程或禁止声明列表。

为什么重要

只选模型不能保证安全。护栏能减少流畅回答变成有害业务动作的概率。

例子

退款护栏会阻止 Agent 在未满足批准条件时承诺补偿。