意大利监管机构暂停AI幻觉调查报告DeepSeek

当地时间1月5日，意大利反垄断机构（意大利竞争与市场管理局，AGCM）在每周例行公报中提到，鉴于DeepSeek针对大模型幻觉问题提出的整改措施，决定停止对该公司的调查。相关措施包括在用户协议中增加关于AI生成内容真实性、准确性的说明，并在提问框及生成内容的末尾处增加提示标识，告知用户相关内容由AI生成。

据了解，DeepSeek在意大利提供网页版及App服务。2025年6月，AGCM以涉嫌未就用户可能接触到虚假信息进行充分警示为由，对DeepSeek启动调查。该机构在公报中指出，DeepSeek未能向用户提供足够清晰、即时且易于理解的警告，告知其在输入特定内容后，其人工智能模型可能会生成错误且有误导性的信息，即所谓的“幻觉问题”。此外，即使用户使用意大利语与模型互动，页面中唯一的内容安全提示仍仅以英语显示。

基于以上情况，DeepSeek方面于2025年9月两次向该局提交整改方案。具体来说，公司承诺提供意大利语版本的《使用条款》，用户所看到的语言将根据其IP地址确定，并在其中增加有关AI生成内容真实性、准确性的相关说明。同时，确保在注册页面的显著位置提供《使用条款》的超链接，方便用户跳转阅读。

DeepSeek进一步承诺，将在提问框下方永久设置提示标识，说明回答由AI生成；如果AI生成内容涉及医疗、法律、金融等领域，将在末尾处设置专门提示。“这些标识旨在告知用户生成内容的自动化、随机性和不确定性，促使他们更审慎、批判性和负责任地使用工具。”公报中写道。此外，DeepSeek还提供了不同数据训练阶段降低大模型幻觉风险的技术办法。

AGCM公开展示的带有提示标识的页面示例。

采写：南都+记者 樊文扬