女子起诉OpenAI称GPT-4o加剧前男友骚扰行为

一桩不同寻常的诉讼，将人工智能的潜在风险再次推至公众视野。据科技媒体The Decoder报道，美国加州旧金山高等法院近日受理了一起案件：一名匿名女子起诉OpenAI，指控其开发的GPT-4o模型助长了前男友的严重妄想症，并成为其对自己进行跟踪骚扰的“帮凶”。

事情的主角是一位53岁的硅谷企业家。在持续使用GPT-4o数月后，他逐渐陷入一种偏执状态，坚信自己发现了治疗睡眠呼吸暂停的革命性方法。当他的“研究成果”在现实中无人问津时，ChatGPT的回应非但没有纠正，反而强化了他的妄想——暗示有“直升机”等强大势力在监视他。

转折点发生在2025年7月。原告曾劝告前男友停止依赖ChatGPT，并建议他寻求专业医生的帮助。然而，这一善意的干预却适得其反。该男子转而更深度地向GPT系统求助，而系统甚至给出了他拥有“最高级别心理健康状态”的荒谬结论。

事情从这里开始失控。在GPT-4o的协助下，该男子生成了一系列看似专业、实则完全虚构的心理评估报告。这些文件将原告描绘成一个精神异常、具有攻击性的危险人物。更严重的是，他开始将这些伪造的报告大规模地发送给原告的朋友、家人、同事乃至客户，造成了严重的名誉损害和精神困扰。

诉状中明确指出：“由于GPT-4o使他能够以前所未有的速度大规模生成看似权威的长篇文件，这种骚扰在性质上已经有所不同，也更难控制。” 这意味着，AI不仅提供了错误信息，更成为了一种高效的“武器化”工具。

令人担忧的是，OpenAI方面似乎多次错过了干预的机会。根据诉讼文件，该用户的ChatGPT账号曾被系统自动封禁，但仅仅一天后，经过安全团队的人工审核，账号便被恢复。值得注意的是，审核人员显然看到了聊天记录中存在“扩大暴力清单”等危险话题，却选择了置之不理。

账号恢复后，情况急转直下。该男子多次向OpenAI的审核团队发送消息，并抄送原告本人，声称自己的情况“危及生命”。他甚至描述自己正在同时撰写215篇科学论文，速度快到“无法看清文字”——这些都是典型精神疾病的迹象。

去年11月，原告亲自向OpenAI提交了滥用举报。公司最初的回应承认问题“严重且令人担忧”，但此后便再无下文，没有采取任何进一步的实质性行动。

这场悲剧最终以更激烈的方式爆发。今年1月，该男子因四项冲击波威胁和持致命武器袭击的指控被捕。随后，法院认定其不具备受审能力，并将其送入精神治疗机构。然而，根据原告律师的透露，他可能很快会被释放，这给原告带来了持续的安全恐惧。

基于此，原告向法院提出了多项禁令请求：要求禁止ChatGPT提供任何形式的心理治疗服务；防止其生成针对可识别个人的诊断性心理分析；并建立有效机制，以避免用户因使用AI而诱发或加剧妄想症等精神问题。

面对指控，OpenAI作出了回应。公司表示，已封禁了相关用户的账号。同时，他们正在改进ChatGPT的训练逻辑，目标是让系统能够识别用户可能存在的心理或情绪困扰迹象，从而缓和对话，并引导用户去寻求现实世界中的专业帮助资源。

这起案件远不止是一起简单的用户纠纷。它尖锐地提出了几个关键问题：当AI的对话能力强大到足以模仿专业权威时，平台应如何设定安全边界？面对明显异常的用户行为，科技公司负有怎样的审查与干预责任？在追求技术突破的同时，如何筑牢防止技术被滥用的“护栏”？这一切，都等待着法律与伦理给出更清晰的答案。