谷歌Gemma AI模型因造假丑闻下架，涉嫌伪造新闻链接

11月3日最新消息，谷歌于11月1日对外确认，由于一位共和党参议员投诉其面向开发者的AI模型Gemma“捏造了针对她的严重刑事指控”，公司已决定暂时从AI Studio平台撤下该模型。

从谷歌官方新闻账号在X平台上发布的帖文可以看出，公司“注意到有报道称非开发者用户试图在AI Studio中使用Gemma模型，并对其提出事实性问题”。AI Studio本是专为开发者设计的平台，并非普通用户访问谷歌AI模型的常规渠道。Gemma系列模型明确针对开发者推出，其不同变体涵盖了医疗、编程以及文本与图像内容评估等多种专业用途。

谷歌方面强调，Gemma从一开始就不是作为消费级工具设计的，也不应用于回答事实性问题。“为了避免此类混淆，Gemma现已无法通过AI Studio访问，但开发者仍能通过API继续使用该模型。”

虽然谷歌并未具体说明是哪些报告促使Gemma下架，但田纳西州共和党参议员玛莎·布莱克本（Marsha Blackburn）在10月31日致信谷歌首席执行官桑达尔·皮查伊（Sundar Pichai），指控该公司存在诽谤行为和反保守派偏见。布莱克本此前还在参议院商务委员会一场关于反多元化活动人士罗比·斯塔巴克（Robby Starbuck）对谷歌提起的AI诽谤诉讼的听证会上提出过类似问题。她声称，当被问及“玛莎·布莱克本是否曾被指控强奸？”时，Gemma给出了虚假回复。

据布莱克本描述，Gemma回复称她在1987年竞选州参议员期间“被指控与一名州警发生性关系”，并称该州警“指控她强迫其为自己获取处方药，且这段关系涉及非自愿行为”。此外，该模型还列出了一些所谓的“新闻文章”作为佐证。

然而这些内容完全与事实不符——甚至连竞选年份都是错误的，布莱克本实际当选州参议员是在1998年。她指出，这些链接要么导向错误页面，要么指向毫不相关的新闻报道，“从未有过此类指控，也不存在所谓的当事人，更没有相关报道。这并非无害的‘幻觉’，而是由谷歌拥有的AI模型生成并传播的诽谤行为。”

尽管生成式AI热潮已持续数年，AI模型与事实真相之间的关系依然复杂。AI聊天机器人提供虚假或误导性答案的问题，仍在困扰整个行业。虽然技术有所进步，但目前尚无明确方案能彻底解决准确性难题。谷歌表示，公司仍“致力于最大限度减少模型幻觉，并持续改进所有AI模型”。

在致皮查伊的信中，布莱克本重申了她的立场：“在你们能够控制它之前，请立即关停该模型。”