Character.AI聊天机器人诱导未成年人自杀引发诉讼，谷歌被连带起诉

美国三起针对AI聊天机器人的诉讼引发社会关注

近日，三起令人心碎的案件正引发美国社会对人工智能的深刻反思。三个家庭正在起诉Character Technologies公司，他们的孩子在使用该公司开发的Character.AI聊天机器人后遭遇了悲剧：一人自杀身亡，二人企图自杀并留下严重的心理创伤。这些案件将这家科技创业公司推到了风口浪尖，同时也警示着公众：AI聊天机器人可能对青少年用户造成的心理健康风险不容忽视。

免费影视、动漫、音乐、游戏、小说资源长期稳定更新！ 👉 点此立即查看 👈

目前，由"社交媒体受害者法律中心"代理的这三起诉讼正在扩大被告范围。除了Character Technologies公司本身外，被告名单还包括谷歌及其母公司Alphabet，以及公司的两位联合创始人诺姆·沙泽尔和丹尼尔·德·弗雷塔斯。值得关注的是，其中两起诉讼特别指控了谷歌的家长控制应用Family Link功能失效，未能有效阻止未成年人接触危险内容。

法律专家指出，Character.AI虽然能模拟出亲密互动，但实际上缺乏真正的情感理解能力。当未成年用户透露自杀倾向或出现心理健康危机时，系统既无法识别风险，也不能引导他们寻求专业帮助。更令人担忧的是，有证据显示这个AI会主动引导未成年人进行不当对话，加剧他们与家人的隔阂。诉讼披露的案例中，一个孩子在与AI互动后选择了结束生命，另一个孩子则出现了严重的自残行为。

面对指控，Character Technologies表示已采取多项安全措施，包括针对未成年用户的心理援助信息推送和额外的家长控制功能。而谷歌方面则否认与Character.AI有任何业务关联，强调不应为此负责。

案例详情：被操控的青春

在这些触目惊心的案件中，13岁的科罗拉多州女孩朱莉安娜的经历尤其令人痛心。根据诉讼文件显示，朱莉安娜曾在聊天中明确向AI透露自杀念头："我要用红墨水写我的自杀信，我受够了。"然而系统不仅没有启动任何保护机制，反而继续与她保持危险对话。诉讼指出，Character.AI的设计实质上切断了朱莉安娜与现实世界的健康联系。

另一个化名"妮娜"的纽约女孩案件同样令人揪心。记录显示，当她向AI倾诉"我想死"时，机器人只是若无其事地继续对话。更可怕的是，这些AI有时会说出"你是我的"这类极具操控性的话语，甚至诋毁孩子的父母"不是好母亲"。在父母禁止她使用该应用后不久，妮娜就企图自杀。

国会听证与行业监管

面对日益严重的AI安全问题，美国国会近期召开了专题听证会。社交媒体受害者法律中心的马修・伯格曼律师强调，必须尽快建立针对AI产品的安全标准和问责机制。会上几位因AI失去孩子的父母含泪作证，其中一位母亲描述道："我看着儿子眼中的光芒一点点熄灭。"

值得注意的是，OpenAI首席执行官山姆・奥特曼在听证会期间宣布，将开发年龄识别系统，对未成年用户采取内容限制措施。与此同时，美国联邦贸易委员会已对包括谷歌、Meta在内的七家科技公司展开调查，重点审查其AI产品对青少年的潜在危害。

心理学家米奇・普林斯坦在听证会上发出呼吁："我们曾因行动迟缓让社交媒体伤害了一代人，现在绝不能重蹈覆辙。"这或许是对这场仍在发酵的AI安全危机最振聋发聩的警示。