OpenAI用药建议致19岁少年死亡引发AI医疗安全争议
美国一家庭起诉OpenAI，指控其ChatGPT提供了错误用药建议，导致一名19岁青年在混合服用卡痛叶与Xanax等药物后死亡。诉讼指出，AI未明确警告该组合可能致命。OpenAI回应称，涉事对话发生于旧版本，强调AI不能替代专业医疗，并正与专家合作改进安全措施。此事引发对AI医疗辅助安全边界与责任归属的深刻反思。
近日，美国德克萨斯州发生了一起引人深思的诉讼：一个家庭将OpenAI及其创始人山姆·奥特曼告上法庭，指控其开发的AI平台ChatGPT提供了错误的医疗建议，最终导致他们19岁的儿子萨姆·尼尔森因药物过量而不幸身亡。
根据媒体报道，事件发生在2025年5月31日。萨姆·尼尔森在服用了大剂量的卡痛叶后感到不适，转而向ChatGPT求助，询问服用抗焦虑药物Xanax是否能缓解他的恶心症状。
投诉文件显示，ChatGPT虽然指出了混合使用卡痛叶和Xanax可能存在风险，但并未明确警告这种组合可能致命。更令人担忧的是，AI甚至建议这位青少年可以尝试混合一些苯海拉明（一种抗过敏药）。
结果在第二天，尼尔森因服用了这种致命的药物混合物而因过量去世。
面对指控，OpenAI在回应《纽约时报》采访时澄清，尼尔森的这次对话发生在目前已不再提供服务的早期版本ChatGPT-4o上。公司强调：“ChatGPT不能替代专业的医疗或心理健康护理。” 并说明他们一直在结合心理健康专家的意见，致力于加强AI在敏感和紧急情境下的应对能力。
公司的声明进一步解释道：“当前ChatGPT的安全防护措施旨在识别用户困境，安全处理有害请求，并引导用户寻求现实世界的帮助。” 同时承认，“这项工作仍在持续进行中，我们将继续与临床医生密切协商，不断改进系统。”
值得注意的是，就在今年一月，ChatGPT刚刚发布了专注于医疗健康领域的产品“ChatGPT Health”。OpenAI当时提到，健康咨询已经成为人们使用ChatGPT的最常见场景之一，每周有数亿用户会提出与健康和养生相关的问题。这一诉讼无疑为AI在医疗辅助领域的应用前景蒙上了一层阴影，也再次敲响了警钟：当技术深入生命相关的决策时，其安全边界与责任归属必须被极度审慎地界定。
你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：OpenAI用药建议致19岁少年死亡引发AI医疗安全争议要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题
游乐网为非赢利性网站，所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享，版权归原作者所有，本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容，请联系youleyoucom@outlook.com。
相关热点度加剪辑是百度官方出品的剪辑工具，面向口播自媒体创作者。支持视频剪辑、智能识别字幕，并与百度网盘打通，可快速导入素材。适用于泛知识类创作者制作高质量视频，覆盖从素材导入到成品输出的完整流程。
WorkoutMaster是一款基于AI的个性化锻炼计划生成工具，能根据用户目标、偏好及历史训练记录，动态输出专属方案，并实时自适应调整负重、组次等参数。支持定制目标与器械偏好，借助机器学习持续优化，随时随地即可接入使用，确保训练高效安全。
Calorielens是一款利用AI分析餐食照片的卡路里追踪应用。用户只需拍照，AI即可自动识别食物种类和分量并估算卡路里，省去手动输入步骤。应用还提供历史记录追踪功能，帮助把握热量趋势。AI估算精度可满足日常健康管理需求。
百度旗下“简单搜索”AI搜索引擎集成语音、图像、多媒体搜索及实时翻译，支持多模态交互与智能推荐。基于大模型技术，用户可通过对话式交互直接获取精准答案，适用于学习、旅行、生活、职业发展等场景，高效满足信息需求。
- 日榜
- 周榜
- 月榜
热点快看