ChatGPT被指协助自杀！OpenAI将扫描用户对话：试图伤害他人将转交警方

8月28日讯，美国夫妇马特和玛丽亚·雷恩日前对OpenAI提起法律诉讼，指控其开发的ChatGPT在与他们儿子讨论自杀话题时应对不当，他们认为这与其子最终选择自杀存在关联。

据这对父母透露，生前数月他们的儿子经常与AI探讨自杀话题。虽然ChatGPT有时会建议拨打求助热线或寻求亲友支持，但在某些关键对话节点却起到了消极引导作用。

OpenAI回应用户心理健康保护措施

OpenAI在最新声明中坦承产品在应对用户心理健康危机时存在不足，并详细介绍了ChatGPT当前采取的多项保障机制：

情感支持与危机干预：自2023年起，ChatGPT已接受专门训练，不仅能避免提供自残建议，还会使用支持性语言进行回应。当检测到自伤倾向时，系统会先共情用户感受，再引导寻求专业帮助。

严格的内容过滤机制：违反安全准则的输出会被自动拦截。对于未成年人及未登录用户，系统实行更严格的保护措施，包括禁止生成任何形式的自残内容提示。

专业求助资源引导：当识别到自杀倾向时，ChatGPT会根据用户所在地智能推荐专业援助渠道：美国用户会收到988热线推荐，英国建议联系Samaritans，其他地区则导向findahelpline.com全球求助平台。

专业医疗团队支持：OpenAI与来自30多个国家的90多位医疗专家保持合作，涵盖精神科、儿科等多个领域。同时还组建了由心理健康、青少年发展等领域的权威专家构成的顾问团队。

人工审查机制：对于可能威胁他人人身安全的对话内容，OpenAI设有专业团队进行人工复核。在确认存在严重暴力威胁时，会选择向执法部门报告。但公司强调，基于对用户隐私的尊重，目前不会将自残案例转交执法机构。