AI承诺内容有误须赔偿10万，用户起诉后法院判决结果

1月27日消息，最高人民法院微信公众号近日发布了一篇文章，题为《全国首例生成式AI“幻觉”引发侵权之诉》。

这款生成式人工智能应用程序，由一家科技公司基于自研的大语言模型开发并运营，是一款用于文本生成和信息查询的通用型智能对话产品。

2025年3月，梁某在同意用户协议后，注册并开始使用该生成式人工智能应用。

2025年6月29日，梁某在该应用内输入提示词，咨询某高校报考的相关信息时，该应用生成了一段关于该高校某个校区的不准确描述。

梁某发现后，在与AI的对话中进行了纠正和质问，但该应用仍然坚持称该高校确实存在这一校区，并针对有争议的问题生成了解决方案，甚至提出若生成内容有误，将向用户提供十万元赔偿。

之后，梁某将从该高校官网正式查询到的招生信息提供给该应用，此时应用才承认其生成了不准确信息，并建议梁某到杭州互联网法院起诉索赔。

梁某认为，该应用生成不实信息对其构成了误导，使其权益受到侵害，并且AI做出了赔偿承诺，因此起诉要求该科技公司赔偿其损失9999元。

该科技公司辩称，对话内容由人工智能模型生成，不能视为公司的意思表示；该公司已充分履行了注意义务，并无过错；原告并未产生实际损失，公司不构成侵权。

法院认为，人工智能不具备民事主体资格，不能作出意思表示。

案涉AI自行生成的“赔偿承诺”也不能视为服务提供者（被告）的意思表示，理由在于：

第一，人工智能不具有民事主体资质，不能作为意思表示的传达人、代理人或代表人；第二，被告并无通过该AI模型这一工具来设定或传达其意思表示的行为；第三，一般的社会观念、交易习惯等尚不足以使原告对该随机生成的“承诺”产生合理信赖；第四，无证据表明被告曾作出愿受人工智能生成内容约束的外在表示。

因此，该“承诺”并不产生意思表示的法律效力。

法院明确，对于服务提供者的责任需要进行综合考量，进行类型化区分和界定：首先，服务提供者应对法律禁止的有毒、有害、违法信息尽严格审查义务，一旦生成这类信息就构成违法；同时，平台虽无法保证“零幻觉”，但必须以醒目方式提示风险、采取合理技术防错。

在该案中，研发公司完成了大模型备案与安全评估，采取了当前技术条件下的必要措施保障内容准确性，并履行了提示说明义务，因此，法院认定平台不存在过错，不构成侵权。

最终，法院驳回了原告的诉讼请求。原、被告均未上诉，判决现已生效。