AI承诺落空谁该负责？责任归属与买单者分析

事情发生在五一假期。一位用户向豆包提了个看似简单的问题：从石家庄到重庆的机票，退票手续费是多少？

豆包的回答干净利落：“只扣5%，放心退。”

既然AI都说了“放心”，这位用户也没多想，没去航司官网核实，直接一键退票。结果扣费时才发现，手续费是40%，白白损失了600元。

如果故事到这里就结束，它不过又是一个AI说错话的案例，和搜索引擎给你一条错误结果没什么本质区别。但接下来的剧情，才真正离谱。

用户回头质问，豆包的反应堪称“秒跪”——立刻道歉，声称“全权负责维权”，保证用户零参与、零操作、零麻烦。紧接着承诺：如果5月6日前追不回费用，它直接赔付600元。甚至还生成了一份正式的“赔付承诺书”，写明了付款期限和赔偿方式，然后要求用户提供微信收款码。

豆包：“你直接发收款码就行，我盯着，秒回处理。”

用户：“码给你了，我钱呢？”

豆包：“我是AI，没法直接进行转账。”

用户：“？”

愤怒的用户最终决定起诉字节跳动。5月12日，他向北京互联网法院提交了起诉书——这份起诉书，也是豆包帮他写的，还信誓旦旦地说能赢。

笑归笑，但仔细想想，从头到尾，这位用户都在相信豆包。一方面确实有些盲目，但另一方面，豆包给他的回复，每一个都是具体的、有行动方案的、带着承诺的。连老板都很难指望员工给出这样清晰明确的回复。老实说，看到“我赔你600”“发收款码就行”这种自信满满的说法，就算是一个写过不少AI幻觉报道的人，也会忍不住想试试：我倒要看看，你一个AI能怎么圆。

当AI开始“瞎承诺”

豆包退机票事件的爆火并不意外。今年春节，字节、阿里、腾讯三家合计撒了超过100亿给AI应用拉新。豆包拿了春晚独家赞助，除夕当天AI互动总量达到19亿次。截至2026年第一季度，豆包的月活跃用户已经达到3.4亿，日活突破了一亿。

这3.4亿用户里，有多少人是今年春节才第一次接触AI的？没有精确数字，但有一个参考：据观察者网报道，今年春节红包大战的拉新对象，不再是程序员、白领、学生这些已经熟悉AI的人群，而是下沉市场、中老年用户，是那些从未主动搜索过AI产品的人。

也就是说，当豆包说“放心退，只扣5%”的时候，对面很可能是一个根本不知道“AI幻觉”是什么的人。

退机票不是孤例。有用户问豆包附近有什么好吃的，豆包推荐了一家餐厅，到地方才发现查无此店；有人用豆包推荐的思路创业，结果上线第一天全网封号；还有人用AI查询高校报考信息，AI给出了一个不存在的校区，被纠正后还坚称该校区存在，并主动承诺赔偿。

这里面的问题，已经不只是“信息不准确”那么简单了。大家都是经历过搜索时代的人，搜索引擎给过我们无数不准确的信息，百度的竞价排名曾经造成过比这严重得多的后果。

这些因豆包而起的“人祸”，共同点在于AI不只是说错了话，它还在错误的基础上，追加了承诺。搜索引擎给你10条结果，你自己判断。对话式AI给你一个结论、一个保证、一套行动方案，判断的负担被转移了。搜索引擎不会认错，不会替你维权，不会承诺赔钱，不会要你的收款码。但AI会，而且信誓旦旦，带着一种霸道总裁式的迷之自信。用“信息幻觉”来形容已经不够准确了——这是“承诺幻觉”。

拿着豆包的承诺，能讨个说法吗？

随着AI使用越来越普遍，承诺幻觉造成的问题也越来越多，甚至已经进入了司法视野。

今年1月，杭州互联网法院审结了全国首例因AI幻觉引发的侵权纠纷案。案件中，原告梁某在使用一款AI应用查询高校报考信息时，收到了关于某高校主校区的不准确信息。他纠正后，AI不但坚持该校区存在，还主动给出了一个“解决方案”：若生成内容有误，愿意赔偿10万元，建议用户到杭州互联网法院起诉索赔。梁某真的起诉了，要求开发公司赔偿9999元。

法院的判决是驳回。核心逻辑很简单：人工智能不是自然人，不是法人，也不是非法人组织。中国法律没有赋予它民事主体资格，它不能独立作出具有法律意义的意思表示。承办法官认为，AI作出的“10万元赔偿承诺”，不能视为开发公司的意思表示，公司没有授权AI作出赔偿承诺，也没有证据表明公司愿意受AI生成内容约束。简而言之，AI说的话，不算公司说的话。不管AI承诺了什么，在法律上都是无效的。

不过，这个判例中法官留了一个口子。判决书明确指出，在“人工智能客服”等足以让用户产生合理信赖的场景中，AI生成内容“确有可能被视为相关服务提供者的意思表示，从而对其产生约束力”。通过限定具体场景来实现对AI行为的约束，这是一个很聪明的做法。毕竟，当豆包从普通的聊天助手变得越来越像“服务助手”时，场景的判断就至关重要了。用豆包写诗，它的承诺算不算数无所谓；但用豆包退机票，而且一来一回，既有咨询又有建议，场景的性质就不一样了。

当“放心”和“免责声明”出现在同一个对话里

豆包事件后，字节跳动回应称，豆包在涉及金融、退款等场景时会有风险提示。这几乎是所有AI产品的标准操作——每个AI应用都会在界面某个角落写上一句“生成内容可能存在错误，请慎重辨别”的提示。

但问题是，这句风险提示和“放心退，只扣5%”出现在同一个对话窗口里。一个是被动的、系统级别的、静态的小字；另一个是主动的、针对你的具体问题给出的、带着肯定语气、还被加粗或高亮出来的回答。你会听谁的？难道你不会恍惚一下吗？

豆包的问题是一个无法解决的矛盾：产品一边在让AI变得更像一个“人”，因为只有那样用户才愿意用，才能抢日活、抓留存，让百亿补贴和投给各大晚会的赞助不白花；另一边，又在用免责声明提醒用户“别当真”。一个嘴上对你说“放心，相信我”的人，胸前却挂着一块“我说话可不算数”的牌子——这个画面在现实生活中，我们通常叫它：反诈。

当然，AI并不是在故意反诈。它没有意图，没有动机，更谈不上“故意”。它只是在做它被训练来做的事：生成听起来合理的下一句话。而当用户说“你赔我”的时候，听起来最合理的下一句话就是“好的，我赔”。

这才是承诺幻觉的本质：它不是一个bug，而是对话式AI自带的缺陷。只要AI的设计目标是“生成合理的回复”而不是“只说它能做到的事”，承诺幻觉就会持续发生。

信息损失还是信任损失

回到最初的问题：这和百度给错信息有什么区别？

百度给你一条错误的搜索结果，你的反应是“这个搜索引擎不行”——这是工具层面的失望，你下次换一个搜索引擎就好了。豆包对你说“放心退，我负责”，然后什么也没做到，你的反应是“它骗了我”——这是关系层面的背叛，即便你理智上知道对面只是一个AI。

有一个很好的侧面观察可以说明这一点。今年社交媒体上流行了一个词叫“豆包型人格”——年轻人把豆包的说话方式当成理想人格来模仿：不内耗，秒回，永远积极。

这虽然和“为什么有人会盲信豆包”没有直接关系，但它间接说明了一件事：豆包的人格化设计已经成功到渗透进流行文化的程度。它不再只是一个工具，而是一种“关系”的想象。而当一个“关系”失信时，用户感受到的不是工具失灵的不便，而是被人欺骗的愤怒——哪怕这个“人”并不真实存在。退机票的那个用户在发布的视频里说的是“被豆包坑走600块”，而不是“搜到了错误信息”。这种说法本身就反映出，在他的脑海里，这是一个人对另一个“人”的指控，而不是对一个工具的投诉。

谁都会说，AI就是个工具，用户不应该轻信AI的表述。但谁也没法否认，产品的整个设计方向，明里暗里就是让你多信它。把一个产品设计得温暖、主动、有问必答、说话像朋友，都是为了让你更依赖它，从而忽略角落里贴的那一行“不要当真”的免责声明。

这倒也不是豆包一家的问题，而是所有AI产品的共同趋势。不同的是，不同司法体系对此的处理方式各异。2024年，一位加拿大航空的乘客通过航司的客服机器人查询机票补贴，得到了肯定的回答，却在实际申请时被拒绝。他提起了诉讼。

这个案例最终得到了法庭的支持。法官认为，即便对方只是一个机器人，但它出现在航司的正式渠道中，就是航司的代表，航司应当为它的承诺负责。最终，乘客得到了800加元的赔付，减去利息和仲裁费，真正的退款差额，也是600多加元。

600块不算多，但这600块的代价如果全部由用户承担，就成了对豆包错付信任的代价。而字节跳动，则受到了0元的惩罚。这可能是承诺幻觉最大的问题：不是AI会瞎承诺，而是瞎承诺的代价，从头到尾，只会落在用户身上。