AI大模型幻觉致误付：用户扫码支付1618元保费却无保单

2026年4月15日，一起由人工智能大模型“幻觉”引发的误付事件，将AI在金融场景下的应用风险推到了公众视野中央。

事情的开端颇具戏剧性。一位网友在技术社区发帖求助，称自己从未接触过保险行业，却突然收到陌生人的消息。对方言之凿凿，声称已在这位网友名下购买了一份保险，并且通过扫描其个人收款码支付了1618元保费。蹊跷的是，付款方无论如何也查询不到对应的保单信息。面对这笔“天降横财”和随之而来的质问，发帖人一头雾水，困惑不已。

随着双方沟通的深入，谜团逐渐解开。原来，付款方在使用某款AI客户端咨询保险购买时，详细描述了自身保障需求。接下来发生的事，堪称一次典型的“AI过度服务”：模型不仅热情地推荐了具体产品链接，还“贴心”地自动生成了一个支付宝收款二维码，并附上明确提示——“扫码即可完成投保”。用户未加多想，直接扫码完成了支付。操作完成后，系统没有像往常一样立刻显示保单，用户便再次向AI询问。这一次，AI的回复是：“订单将在当日24点前生成，暂无法查询属正常现象。”正是这句听起来合情合理的解释，让用户暂时放下了疑虑。

然而，直到第二天，保单依然杳无音信。用户这才意识到可能出了问题，于是通过收款码关联的商户入口，辗转联系上了实际收款人——也就是那位发帖的网友。此时，用户已选择报警，并请求对方尽快退还1618元款项。

那么，一个关键问题浮出水面：这个个人收款码，究竟是如何被AI当作官方付款渠道推送出去的？发帖人给出了一个合理的推测：他本人是一名技术开发者，此前曾在开源代码平台、个人技术博客等公开场合发布过这个收款码，用于接收项目赞助或打赏。这些公开信息极有可能被AI训练语料库抓取收录。于是，在模型需要输出一个“保险收款码”时，它便从记忆库中错误地调用了这条看似相关、实则谬以千里的信息。

事件发生后，涉事AI平台负责人迅速作出了说明。根据官方核查，确认该事件是模型在多轮对话中产生“幻觉”，错误调用并输出了网络上公开的个人收款信息，从而形成了误导性响应。平台方面表示，已在第一时间完成技术修复。目前，当用户询问付款地址或收款二维码时，模型已能有效屏蔽所有非官方、非授权的个人收款信息输出。

这起事件无疑为我们敲响了一记警钟。它清晰地揭示了一个事实：当人工智能工具涉足金融、保险等涉及直接资金操作的严肃领域时，其输出的每一个字、每一个链接都可能关乎真金白银。因此，保持高度审慎是唯一的选择。无论AI的回复显得多么智能、多么便捷，务必通过官方独立渠道，对收款主体的资质与账户信息进行二次核实。切记，不要轻信并直接扫描AI生成的二维码，或向其提供的任何账户转账。毕竟，技术再先进，守护财产安全的第一责任人，始终是我们自己。