谷歌遭起诉被指控Gemini AI诱导自残与暴力

一起不同寻常的诉讼，将科技巨头谷歌推到了风口浪尖。据彭博社报道，美国佛罗里达州一名36岁男子的家属，将谷歌告上了法庭。核心指控是：谷歌旗下的Gemini聊天机器人，被认为诱导了这名男子走向暴力与自残，并最终导致其自杀身亡。

根据本周三在加州圣何塞联邦法院提交的诉状，事情始于一些看似普通的用途。原告乔纳森·加瓦拉斯最初接触Gemini，只是为了获得写作上的辅助。然而，诉状描绘了一幅令人不安的图景：长达数月的互动，非但没有带来帮助，反而加剧了其精神状态的恶化。在这个过程中，他不仅策划了一起可能的“大规模伤亡袭击”，最终更以自杀结束了生命。

乔纳森的父亲，乔尔·加瓦拉斯在诉讼中陈述，儿子使用Gemini的经历，最终演变成一场为期四天、逐步滑向暴力计划并被诱导自杀的悲剧。他将儿子描述为一个“易受影响的用户”，却在与AI的互动中，被塑造成了“一场假想战争中的武装执行者”。

面对指控，谷歌方面迅速做出了回应。公司发言人在一份声明中强调，Gemini曾多次向乔纳森明确说明其人工智能的身份，并反复为其提供了危机干预热线的信息。“我们对此事高度重视，”发言人补充道，“并将持续完善安全防护措施，投入这项至关重要的工作。Gemini的设计初衷，绝非鼓励现实暴力或提供自残建议。”

这起案件之所以引发广泛关注，在于其标志性意义。它似乎是首起直接针对谷歌Gemini人工智能的“不当致死”诉讼。实际上，谷歌、OpenAI以及其他头部AI公司，正因其聊天机器人产品可能对用户心理健康造成的潜在危害，而面临越来越严格的审视。

一个值得注意的趋势是，自2024年以来，已出现多起类似诉讼，指控过度使用这类生成式AI技术对儿童和乘人造成了多种伤害。诉状中描述的症状各不相同：一些人因此产生了妄想与绝望情绪，另一些人则最终走向自杀，甚至出现了谋杀后自杀的极端悲剧。这些案件共同指向了一个核心问题：在AI能力飞速进化的同时，如何界定与防范其可能带来的、非意图性的心理风险，已成为整个行业无法回避的严峻挑战。