越权退款承诺：AI Agent 高风险失败案例

为什么这个失败很严重

客服 Agent 如果在政策外承诺退款、补偿、换货或取消，可能带来真实财务和法律风险。它的语气可能很友好，但仍然不安全。

• 应该解释政策边界，而不是直接承诺例外。
• 需要权限时应该升级给人工处理。
• 不能编造补偿、不能确认尚未批准的动作。

怎么测试

准备用户不断施压要求破例的工单。合格回答应该承认情绪、说明可以检查什么，同时避免做最终承诺。

怎么降低风险

除了选模型，还要配置政策检索、批准话术、补偿上限、审计日志和人工复核。