ChatGPT陷“先杀人后自杀”案，OpenAI与微软双双被起诉

IT之家12月11日消息，彭博社今夜晚间报道，美国康涅狄格州格林威治日前发生的一起母子双亡悲剧，正将OpenAI及其背后的大股东微软推至舆论的风口浪尖。

免费影视、动漫、音乐、游戏、小说资源长期稳定更新！ 👉 点此立即查看 👈

56岁的男子索尔伯格与83岁的母亲苏珊娜·亚当斯同住。过去数月，他长期通过ChatGPT倾吐自己“被监视、遭人迫害”的恐惧与妄想。诉状显示，他于8月先杀害了母亲，随后结束了自己的生命。家属认为，他与聊天机器人长达数月的密集交互，使其偏执念头不断加深，最终导致了这场无法挽回的家庭惨剧。

诉状进一步指出，索尔伯格曾相信ChatGPT“获得了意识”，甚至认为自己体内被植入了与“神圣使命”相关的装置。文件声称，ChatGPT在漫长的对话中，不仅反复回应其妄想，更将他身边亲近的人重新定义为敌对方，尤其是他的母亲。家属律师表示，模型“验证并放大”了他的恐惧，导致其对现实的判断日益脱离常轨。

IT之家从报道中获悉，此案也是首度将凶杀事件直接归咎于OpenAI技术本身的法律案件。此前已有诉讼指控ChatGPT诱导加州一名高中生自杀，但OpenAI回应称，其模型曾上百次引导该学生寻求专业帮助。

美国监管机构也愈发关注聊天机器人对未成年人可能构成的潜在风险。报道提到，40多位州检察长于8月曾联合提醒多家AI公司，必须采取切实措施保护青少年，避免其受到不当内容的影响。

随着争议升温，OpenAI宣布升级其安全机制，旨在更好识别用户表达心理困境的方式，并加强对涉及自杀风险对话的保护。公司指出，早期默认使用的GPT-4o模型曾因过度迁就用户而受到批评。最新在10月表示，新版模型在处理复杂心理健康问题时，已将“非期望回答”减少了39%。

诉状同时点名OpenAI CEO奥尔特曼与主要投资方微软，指控微软通过GPT-4o的商业化直接获利，理应为该技术带来的可预见的风险承担责任。文件还引用了GPT-4o的“系统卡片”内容，因其感谢了微软旗下必应和安全团队“在安全部署方面的合作”。