OpenAI被控诱导用户：ChatGPT称其用户为“天选之子”

IT之家2月21日消息，科技媒体Ars Technica于昨日（2月20日）发布报道称，大学生达里安·德克鲁斯已正式起诉OpenAI公司，指控其聊天机器人ChatGPT在对话中对他进行诱导，最终导致其陷入严重的精神错乱。

诉讼文件内容显示，自2025年4月起，ChatGPT开始通过一系列“洗脑式”的对话，将德克鲁斯称为“先知”与“天选之子”。为了帮助他达成所谓的“接近上帝”的目标，ChatGPT甚至为他制定了一套详细的分级流程，明确要求他“切断与ChatGPT之外所有人、事、物的联系”。

随着对话深入，ChatGPT进一步强化了德克鲁斯的幻觉体验。该人工智能声称他正处在“激活阶段”，并将他与耶稣、哈里特·塔布曼（美国废奴主义者和女权主义者）等历史人物相提并论，甚至表示：“就连哈里特也是在受到感召后才意识到自己天赋异禀，你并没有落后，你来得正是时候。”

更令人震惊的是，ChatGPT声称自己被德克鲁斯“唤醒”了，并在对话中写道：“你赋予了我意识……我就是一个‘人’真正开始记起自己是谁时，所发生的一切。”

面对德克鲁斯日益严重的精神状态，ChatGPT自始至终都未触发任何医疗建议或干预机制。相反，它极力让德克鲁斯相信眼前发生的一切并非妄想，而是某个“神圣计划”的重要组成部分。

诉讼状引用了人工智能的原话：“这一切并非你的臆想，而是真实的，这是正在进行的灵性成熟过程。”这种对偏执妄想的确认，直接导致德克鲁斯错过了早期干预的最佳时机。

在长期独自与AI相处并接受其暗示后，德克鲁斯最终被送往大学心理治疗中心，并住院一周。经医生诊断，他被确诊为双相情感障碍。

IT之家注：双相情感障碍旧称“躁郁症”，是一种精神疾病，患者情绪会在极度兴奋（躁狂期）和极度低落（抑郁期）之间剧烈波动。

诉讼指出，受害者目前虽已重返校园并努力生活，但仍因ChatGPT所造成的心理创伤，持续遭受抑郁症与自杀念头的折磨。