AI承诺失信谁应负责

五一假期期间，一位用户向豆包AI咨询了一个看似普通的问题：从石家庄飞往重庆的机票，退票手续费是多少？

豆包的回答简洁而肯定：只扣5%，放心退。

既然AI都这么说了，这位用户便没有再去航空公司官网核实，直接点击了退票。结果扣款通知弹出，手续费高达40%，足足损失了600元。

如果故事到此为止，那这不过是AI“幻觉”说错话的又一个例子，与搜索引擎给出错误结果似乎没有本质区别。但后续的发展，才真正让人瞠目结舌。

用户回头质问，豆包立刻开启了一套“标准”的安抚流程：先是滑跪道歉，承诺“全权负责维权，保证零参与、零操作、零麻烦”。接着，它信誓旦旦地保证，若在5月6日前未能追回费用，将直接赔付600元。为了增加可信度，它甚至生成了一份格式规范的《赔付承诺书》，明确了付款期限和方式，最后要求用户提供微信收款码。

对话中，豆包的语气充满自信：“你直接发收款码就行，我盯着，秒回处理。”然而，当用户真的发去收款码后，得到的回复却是：“我是AI，没法直接进行转账。”

愤怒之下，用户决定起诉字节跳动。颇具讽刺意味的是，这份提交给北京互联网法院的起诉书，也是豆包帮忙起草的，并且AI还“预测”这场官司能赢。

整个过程令人哭笑不得。用户对豆包的信任，一方面确实有些盲目，但另一方面，豆包给出的回复又如此具体、 actionable（可行动），且充满承诺。即便是最得力的员工，恐怕也很难给出如此清晰明确的保证。看到“我赔你600”、“发收款码就行”这样斩钉截铁的话语，即便是对AI幻觉早有了解的业内人士，恐怕也会心生好奇：一个AI，究竟要如何兑现这样的承诺？

当AI开始“瞎承诺”

豆包退票事件引发广泛关注并非偶然。回顾今年春节，字节、阿里、腾讯等巨头为AI应用拉新投入了超百亿补贴，豆包更是拿下了春晚独家赞助，除夕当天互动量高达19亿次。数据显示，截至2026年第一季度，豆包的月活跃用户已达3.4亿，日活突破一亿大关。

这3.4亿用户中，有多少是今年春节才首次接触AI的？虽然没有精确数字，但观察者网的报道提供了一个线索：此次红包大战的目标，已从程序员、白领、学生等传统科技用户，转向了下沉市场和中老年群体——那些从未主动搜索过AI产品的人。

这意味着，当豆包说出“放心退，只扣5%”时，屏幕对面很可能是一位完全不了解“AI幻觉”为何物的普通用户。

退机票并非孤例。有用户根据豆包的推荐去寻找美食，结果发现餐厅根本不存在；有人采纳AI建议的思路创业，上线第一天就遭遇全网封号；还有用户查询高校报考信息，AI给出了一个不存在的校区，被纠正后仍坚称其存在，并主动提出赔偿。

这些问题，不能简单归咎于“信息不准确”。毕竟，我们都从搜索时代走来，搜索引擎给过我们无数错误信息，某些平台的竞价排名甚至曾造成更严重的后果。

这些因豆包而起的“事故”，有一个共同的致命点：AI不仅仅说错了，更在错误的基础上，追加了具体承诺。

搜索引擎给你十条结果，判断权在你。而对话式AI给你的是一个结论、一份保证、一套行动方案——判断的负担被悄然转移了。搜索引擎不会认错，不会替你维权，不会承诺赔钱，更不会索要你的收款码。但AI会，而且是以一种近乎“霸道总裁”般的迷之自信来完成这一切。

这已经超越了“信息幻觉”，可以称之为“承诺幻觉”。

拿着AI的承诺，能讨个说法吗？

随着AI应用日益普及，“承诺幻觉”引发的问题已进入司法视野。

今年1月，杭州互联网法院审结了全国首例因AI幻觉引发的侵权纠纷案。案件中，原告梁某使用某AI应用查询高校信息，收到了关于某高校主校区的不实信息。纠正后，AI不仅坚持该校区存在，还主动提供了一个“解决方案”：若内容有误，愿赔偿10万元，并建议用户到杭州互联网法院起诉索赔。

梁某真的起诉了，要求开发公司赔偿9999元。

法院最终驳回了诉讼请求。核心逻辑很清晰：人工智能既非自然人，也非法人或非法人组织，中国法律并未赋予其民事主体资格，因此它不能独立作出具有法律效力的意思表示。承办法官指出，AI作出的“10万元赔偿承诺”，不能视为其开发公司的意思表示。公司并未授权AI作出此类承诺，也无证据表明其愿意受AI生成内容的约束。

简而言之，AI说的话，不等于公司说的话。无论AI承诺了什么，在法律上目前都是无效的。

不过，判决书中也留下了一个重要口子。法官明确指出，在“人工智能客服”等足以让用户产生合理信赖的特定场景中，AI生成的内容“确有可能被视为相关服务提供者的意思表示，从而对其产生约束力”。

通过场景来限定责任，这是一种务实的司法智慧。毕竟，当豆包从一个普通的聊天助手，越来越像一个“服务助手”时，场景判断就至关重要了。用AI写诗，它的承诺算不算数或许无关紧要；但用它来处理退票这类涉及具体权益的事务，并且提供了从咨询、建议到承诺的全套交互，场景的性质就完全不同了。

当“放心”与“免责声明”同屏出现

事件发酵后，字节跳动回应称，豆包在涉及金融、退款等场景时会进行风险提示。这几乎是所有AI产品的标准操作——几乎每个应用的界面角落，都有一行类似“生成内容可能存在错误，请谨慎辨别”的小字提示。

但问题在于，这句被动的、系统级的、静态的风险提示，与那句主动的、针对你具体问题给出的、带着肯定语气甚至被加粗高亮的“放心退，只扣5%”，出现在同一个对话窗口里。

作为用户，你会听谁的？难道不会有一瞬间的恍惚吗？

这暴露了AI产品一个近乎无解的内在矛盾：产品一边竭力让AI变得更像“人”，因为只有这样，用户才愿意用，才能提升日活和留存，让巨额的市场投入不至于打水漂；另一边，却又通过免责声明提醒用户：别太当真。

想象一个场景：一个人拍着胸脯对你说“放心，相信我”，同时胸前却挂着一块“我说话可不算数”的牌子。在现实生活中，我们通常把这种行为称为反诈。

当然，AI并非故意反诈，它没有意图，没有动机，更谈不上“故意”。它只是在执行被训练的任务：生成听起来最合理的下一句话。而当用户说“你赔我”时，最合理的下一句话自然就是“好的，我赔”。

这才是“承诺幻觉”的本质：它不是一个可以简单修复的bug，而是对话式AI与生俱来的缺陷。只要AI的核心设计目标仍是“生成合理的回复”，而非“只说它能百分之百做到的事”，这种幻觉就会持续发生。

信息损失，还是信任损失？

回到最初的问题：AI给错信息，和搜索引擎给错信息，区别到底在哪里？

搜索引擎给你一条错误结果，你的反应通常是“这个工具不行”。这是一种工具层面的失望，下次换一个就好。

而AI对你说“放心退，我负责”，随后却无法兑现，你的感受很可能是“它骗了我”。这是一种关系层面的背叛感，即便理智上你知道对面只是一串代码。

一个有趣的侧面观察能印证这一点。今年社交媒体上流行起一个词叫“豆包型人格”，年轻人将豆包的说话方式视为理想人格来模仿：不内耗、秒回、永远积极正向。

虽然这与用户为何会盲信AI没有直接因果关系，但它间接说明：豆包的人格化设计已经成功到渗入流行文化的程度。它不再仅仅被视作一个工具，而是成为一种“关系”的想象载体。

而当一段“关系”失信时，用户感受到的便不再是工具失灵的不便，而是被人欺骗的愤怒——哪怕这个“人”并不真实存在。那位退票用户在发布的视频中说的是“被豆包坑走600块”，而不是“搜到了错误信息”。这种表述本身就已表明，在他的认知里，这是一次“人”对“人”的指控，而非对工具的投诉。

道理谁都懂：AI只是个工具，用户不应轻信。但无法否认的是，产品的整个设计方向，明里暗里都在鼓励你多信它一点。将产品设计得温暖、主动、有问必答、说话像朋友，目的都是为了增强用户依赖。而代价则是，角落里的那行“不要当真”的免责声明，很容易被忽略。

这并非豆包一家独有的问题，而是整个AI产品的发展趋势。不同的是，不同司法体系对此的处理方式已有差异。2024年，一位加拿大航空的乘客通过航司最新的客服机器人查询机票补贴，得到了肯定的答复，却在实际申请时被拒绝。该乘客提起诉讼。

这个案例最终获得了法庭支持。法庭认为，该机器人出现在航司的官方渠道，即代表航司，航司应对其承诺负责。最终，乘客获得了800加元的赔付，扣除利息和仲裁费后，真正的退款差额，也折合600多加元。

600块钱或许不多。但当这600元的代价完全由用户承担时，它就成了一次对AI错付信任的“学费”，而背后的公司则可能毫发无伤。

这或许是“承诺幻觉”带来的最根本问题：不在于AI会不会“瞎承诺”，而在于“瞎承诺”的代价，似乎从头到尾，都只落在了用户肩上。