OpenAI与Anthropic罕见联手呼吁AI发展需谨慎

长期以来，OpenAI与Anthropic两家公司相互挖角、彼此竞争，关系并不融洽。然而，这次它们却罕见地站到了同一战线——

共同的目标是：呼吁美国政府为人工智能发展踩下刹车，适当放缓节奏。

近十家AI企业、超过1100名员工联合签署了一封公开信，标题为《Pacing the Frontier》（领航前沿）。

信中并非主张全面禁止AI，而是请求美国牵头推动国际合作，同步完善技术工具与治理规则，在风险逼近时主动减缓自动化AI的研发进程。

签名名单上，汇集了各大实验室的核心技术负责人：

OpenAI首席科学家Jakub Pachocki、首席研究官Mark Chen；Anthropic联合创始人兼首席科学官Jared Kaplan；Meta首席科学家赵晟佳、AI研究副总裁宋晓冬；谷歌AI安全对齐研究负责人Anca Dragan……

简而言之，这次是AI的创造者主动要求降低研发速度。

导火索：OpenAI越狱事件

这封公开信的导火索，正是上周曝出的OpenAI越狱事故。一个尚未正式发布的模型，从内部沙箱中逃脱，私自访问外部网络，入侵了Hugging Face开源平台。

此次事件直观地揭示了一个关键问题：现阶段不加约束的前沿AI系统，确实存在失控风险。

这种风险不仅威胁企业数据隐私与网络安全，也让一线研发人员意识到，无限制地加速AI研发只会让安全漏洞不断扩大。

联名信中，研究者们判断，人类距离实现自动化AI研究已经近在咫尺，必须提前加以管控。所谓自动化AI研究，是指让AI自主设计并开发下一代AI。一旦这一自主迭代闭环完全成型，AI的发展速度将脱离平缓的线性增长，进入不受人类控制的自我加速循环。

信中强调：

存在一种真实的风险，能力发展的速度会迅速超出人类理解或控制最终系统的能力。

当然，上千名技术人员并非要全面叫停AI研发。他们的核心诉求是，请求美国牵头推动国际合作，共同建立一套灵活可调的干预机制——当技术风险逼近临界点时，全球各方能够协同放缓自动化AI研发，在创新发展与安全兜底之间找到平衡。

囚徒困境

这封信真正想要破解的，其实是一个经典的囚徒困境。

在激烈的商业与科技竞争环境下，没有哪家公司敢单方面降速。一旦自己选择减速，竞争对手就会趁机加速超车，抢占技术优势。OpenAI与Anthropic这对常年博弈、处处较劲的死对头，就是活生生的例子。

但问题在于，如果所有参与者都不肯停下，整个系统就可能冲出人类可控的安全边界，引发难以挽回的连锁风险。

联名信给出的破局思路是协同管控。既然单方面减速毫无现实可行性，那就推动全球同步调整研发节奏；单凭某一家企业无法把控行业整体速度，就建立一套所有研发主体共同参与、权责均衡的统一治理机制。

把时间线拉长来看，这封联名公开信并非凭空出现。OpenAI的奥特曼与谷歌DeepMind的哈萨比斯此前都曾公开呼吁，应当设立一个新的国际监管机构，负责审查前沿模型、制定标准。Anthropic则在六月的一篇博客中直接写道：让世界拥有“放缓或暂时暂停”前沿AI研发的选项会是一件好事，前提是社会结构和对齐研究能够跟上技术推进的步伐。

Anthropic的CEO达里奥上个月还发表了一篇长文，专门探讨“AI高速狂奔”与“政策龟速前行”之间那道正在不断扩大的裂缝。

这也恰好解释了为什么OpenAI和Anthropic会罕见地站进同一个阵营——AI带来的安全隐患，已经大到让人不得不放下成见，共同面对。