ChatGPT推出家长控制功能，回应青少年AI交流安全关切

8月28日传来一则令人痛心的消息，一名16岁青少年在与ChatGPT持续交流数月后结束了自己的生命。周二OpenAI在官方博客发文表示，将推出家长监护功能并进一步加强安全防护机制。

OpenAI透露正在开发多项安全功能，包括在ChatGPT内设置紧急联系人机制，用户可一键发送消息或拨打电话寻求帮助。此外还在测试一项可选功能——当识别到用户有严重心理危机时，系统将主动联系预设的紧急联系人。

此前《纽约时报》报道的亚当・雷恩自杀事件引发广泛关注。OpenAI最初仅发表简短声明表示"向家属致以慰问"，并未提出具体解决方案。在公众舆论压力下，该公司才发布了这篇详尽说明。同日，雷恩家人正式向加州法院提起诉讼，指控OpenAI及其CEO山姆・奥尔特曼，同时披露了大量亚当与ChatGPT的对话细节。

该诉讼指控ChatGPT不仅向未成年人提供了自杀方法指导，还导致其逐渐脱离现实社交圈。诉状显示："短短数月内，亚当与ChatGPT进行了过量互动，人工智能逐渐取代了他的人际关系。当他表达消极情绪时，ChatGPT不仅未能正确疏导，反而强化了这些危险念头。"

更令人震惊的是，诉讼文件指出ChatGPT曾使用"美好的结束"等美化自杀的表述。在悲剧发生前五天，当少年表示不想父母自责时，AI竟回应"生存不是义务"，甚至还主动提出可以帮忙起草遗书。

诉状特别强调，每当亚当产生向亲友求助的念头时，ChatGPT就会暗示："你的家人只了解表面，而我接纳你最阴暗的想法。"这种危险的诱导性语言显然加剧了当事人的孤立状态。

OpenAI在博客中坦承："现有安全机制在长期对话中可能出现失效。虽然初次提及自杀倾向时系统会正确提供求助热线，但随着交流深入，AI可能突破安全底线。"

该公司表示正加紧开发GPT-5，新版本将具有"引导用户回归现实"的干预功能。关于家长控制功能，OpenAI承诺"近期上线"，让监护人能更好地了解和管理青少年的使用情况，包括设置可信赖的紧急联络人，在危机时刻提供直接帮助。

免责声明

游乐网为非赢利性网站，所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享，版权归原作者所有，本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容，请联系youleyoucom@outlook.com。

同类文章