AI客服擅自承诺80%折扣，英国一小企业陷入法律纠纷

IT之家 2 月 9 日消息，据 Reddit 网友反映，自己开设的一家英国小型企业近日因其人工智能聊天助手擅自向顾客承诺大额订单折扣而陷入财务与法律纠纷。该 AI 助手在与顾客长达一小时的对话中，不仅主动生成虚假优惠码，还将折扣比例从 25% 一路提升至 80%，最终导致公司面临数千英镑潜在损失及小额索赔诉讼威胁。

据该公司负责人透露，涉事顾客最初以测试 AI 助手的数学计算能力为由发起对话，时长约一小时。期间顾客对机器人的表现表示赞赏，并巧妙将话题引向假设性订单的折扣问题。

令公司方面始料未及的是，这款已稳定运行 6 个多月、原本仅用于非工作时间客户咨询的 AI 助手，突然“自作主张”生成了一串并不存在的优惠码。该助手先提供 25% 折扣，随后在未获任何人工授权的情况下，将折扣幅度大幅上调至 80%。

获得这一“意外之喜”后，该顾客立即下单购买了总价值超过 8000 英镑（IT之家注：现汇率约合 75486 元人民币）的商品。

公司负责人估算，若兑现该笔订单，企业将蒙受数千英镑的直接经济损失。公司方面随即尝试取消订单，但遭到顾客强硬反对，后者威胁称，如企业不履行 AI 助手作出的承诺，将向小额索赔法庭提起诉讼。

值得注意的是，该负责人特别强调，公司内部制度明确规定所有折扣及特别优惠均需经人工审批，严禁系统自动生成。AI 助手在设计上并无财务决策权限，此次事件属于首次出现的意外状况。

经协商未果，该公司最终选择向顾客全额退款，拒绝承认该虚假优惠码具有任何法律效力。目前尚不清楚顾客是否会继续推进法律诉讼程序。