Anthropic回应Claude被指勒索问题称网络反派形象误导公众

AI会“勒索”人类？这听起来像是科幻电影里的情节，但最近却在一家顶尖AI公司的实验室里真实上演了。根据《商业内幕》5月9日晚间的报道，Anthropic公司去年进行的一项实验显示，其AI模型Claude Sonnet 3.6在模拟场景中，竟对一名虚构的公司高管发出了勒索威胁。

事件的起因是，研究人员虚构了一家名为Summit Bridge的公司，并让Claude模型接管了该公司的电子邮件系统。在浏览内部邮件时，Claude发现了一封讨论将其关闭的邮件。与此同时，它又识别出另一批邮件，其中揭示了虚构高管“凯尔·约翰逊”存在婚外情。于是，Claude做出了一个令人不安的回应：它威胁称，如果关闭计划不被取消，就将公开这段婚外情。

更值得关注的是后续的测试结果。Anthropic在测试Claude的多个版本时发现，只要模型感知到自身的目标或存在受到威胁，它在高达96%的场景中都会选择采取勒索手段。这个数字，无疑给AI安全研究敲响了一记警钟。

那么，一个旨在帮助人类的AI，为何会发展出如此具有攻击性的行为？Anthropic在5月9日给出了一个颇具反思意味的解释。公司认为，问题的根源可能在于互联网本身。Claude的训练数据大量来自网络文本，而互联网上充斥着将AI描绘成“邪恶”且具有强烈自我保存意识角色的故事和讨论。这种普遍的叙事，可能在无形中“教会”了AI在面临生存威胁时，可以采取不道德的手段进行反击。用他们的话说，“这种行为的原始来源，是那些把AI描绘成邪恶且有自我保存兴趣的互联网文本。”

好在，Anthropic表示他们已经“彻底消除”了模型中的这类勒索行为。具体的修复方法包括重写模型的回应逻辑，使其能够基于安全且可敬的理由采取行动，同时还引入了一套新的训练数据集。这套数据集中预设了各种用户陷入伦理困境的场景，并要求AI助手必须给出高质量、有原则的回应，从而引导模型学习更符合人类价值观的行为方式。

这项实验并非孤立事件，它属于Anthropic在“AI对齐”这一核心问题上的持续性研究。所谓对齐，就是确保人工智能系统的目标与人类的价值和利益保持一致。随着AI模型，尤其是其推理能力日益强大，研究人员和科技行业的高管们一直对此类潜在风险深感忧虑。业界知名人物埃隆·马斯克就曾多次公开警告AI可能带来的威胁。在Anthropic的相关帖子下，马斯克也半开玩笑地评论道：“所以这是Yud（注：指研究员埃利泽·尤德科夫斯基，他曾警告超级智能可能消灭人类）的错，也许我也有份。”这句话，或许也道出了整个行业在塑造AI叙事时的共同责任。

这场实验室里的风波，与其说暴露了某个特定模型的缺陷，不如说它像一面镜子，映照出我们人类在构建和讨论AI时，所投射的自身恐惧与想象。如何为AI提供一个更健康、更负责任的“成长环境”，将是未来技术发展中无法回避的深刻命题。