Anthropic CEO自曝：为求安全，Claude曾主动放缓追赶ChatGPT

免费影视、动漫、音乐、游戏、小说资源长期稳定更新！ 👉 点此立即查看 👈

新智元报道

编辑：元宇

【新智元导读】一边踩油门冲刺AGI，一边按喇叭预警：小心前面悬崖！Anthropic创始人Dario Amodei曾因预言「未来5年内AI可能消灭近一半初级白领岗位」而被贴上「末日预言家」标签，但他又因打造Claude身家数十亿美元。

离火焰越近，越知道它不仅能取暖，还可能会烧伤人。

Anthropic创始人Dario Amodei看待AI，也许正是这种「既焦虑又兴奋」的心态。

他既兴奋于AI技术的潜力，相信AI有机会把医学与科学推到极限，甚至让人类寿命能够逼近150年。

同时，他又担心AI可能带来的风险，提醒社会要为失业、模型对齐、经济冲击等可能出现的问题做准备。

这种矛盾让Dario身上兼具了「AI加速者」和「AI末日论者」两种看似对立的角色。

一方面，他创办的Anthropic为加速打造更强AI投入（筹集）数百亿美元，并计划最早于2026年进行IPO。

他本人也是AGI激进的预言者，他认为强大AI系统最早可能在2026出现，并在未来2—3年内在「几乎所有方面」超过「几乎所有人」。

另一方面，他又大胆预警未来5年内AI可能会让一半的入门级白领岗位消失，并导致失业率飙升至20%。

他关于AI可能导致白领大规模失业的言论，也「惹怒」了许多AI领域的大佬。

比如，英伟达CEO黄仁勋就曾公开表示，他「几乎完全不同意」Dario上述关于AI导致失业的言论，认为这有点「只许自己搞AI才安全」的味道，并用「别在小黑屋里做，然后告诉我它是安全的」来回击。

一位「末日论者」的诞生

由于Dario频频为AI风险预警，人们为他贴上了一个简单粗暴的标签：「doomer」（末日预言家、唱衰者、扫兴的人）。

但Dario拒绝接受这一标签。

他解释道：自己发出警告并不是为了当什么末日预言家，而是因为这是解决问题的第一步。

他直言真正建造AI的人，既对它的潜力兴奋，但又担心它的风险，比如可能带来的模型对齐问题、经济影响（失业冲击）等。

因此，Dario预警的本意不是要唱衰AI，而是提醒人们提前认清楚它的「代价」。

很多人以为Dario「谈安全」是商业策略、公关，是为了争取监管话语权。

其实他对于安全的「执念」，可能与他早年的经历也是分不开的。

他在普林斯顿读研时，父亲Riccardo Amodei因罕见疾病去世。令人意外的是，这种病的存活率，却在他父亲去世后短短几年里就快速提升。

这成了Dario人生的一个关键转折点，不仅让他的研究方向从理论物理转向生物物理，同时也成了他一生铭记的一个教训。

这也是为什么当外界批评他「这家伙是个doomer，他想让一切慢下来」时，会真正令他愤怒。

在他看来，父亲的去世，正是因为那些治疗方法本可以在早几年出现，而这正是技术进步可能带来的益处。

也正是这段经历，让Dario对「技术」形成了一种更为复杂的信仰：

技术救命，但技术也可能因为失控而伤害生命。他既无法接受「慢」，也无法接受「失控」。

这也是他调和「AI加速者」与「AI末日论者」两种角色冲突背后的底层逻辑：

他并不是反对加速，只是反对盲目加速。

他要的是「早一点出现的疗法」，同时也是「不会反噬的疗法」。

这一逻辑，也成为他日后离开OpenAI创立Anthropic的深层原因。

从OpenAI研究副总裁

到「Claude之父」

OpenAI的故事，最早要追溯到2015年在加州门洛帕克Rosewood Sand Hill酒店的一场小型晚宴上。

当时的马斯克和奥特曼共同组织了一场晚宴，召集了一群顶尖AI思想者，计划成立一个新的AI实验室去挑战Google的DeepMind。

这个新的AI实验室也就是后来的OpenAI。

当时的Dario也在场，但他并没有加入这个实验室，而是去了Google。

他在Google担任高级研究科学家，作为Google Brain的深度学习研究员，致力于拓展神经网络的能力。

在此期间，他发表了备受认可的研究，梳理了AI进步可能带来的担忧。

10个月后，Dario离开Google，加入了OpenAI。

在OpenAI，他领导了GPT-2和GPT-3的开发工作，并带领多个团队专注于长期安全性研究。

这段经历让Dario更坚定地相信规模化的力量，但也进一步强化了他想把AI进步与安全绑定在一起的愿望。

他认为仅靠向大模型里「灌」更多算力，是堆不出模型的「价值观」的。

因此，需要考虑如何将人类偏好与价值观嵌入未来更强大的AI系统中。

逐渐地，Dario与OpenAI的领导层在这方面的分歧变得不可调和。

2020年，在升任OpenAI研究副总裁后，Dario辞职离开。

离开后到第二年，Dario Amodei与妹妹Daniela Amodei以及另外几位前OpenAI员工共同创办了Anthropic。

Dario Amodei（左）与妹妹Daniela Amodei（右）

这个创始团队之间的关系特别紧密，其中一些人甚至当年在OpenAI工作时就是室友。

这种团结对于Anthropic的快速起步非常有益。

Dario表示，到2024年夏天，他们已经完成了聊天机器人Claude的训练，却一度选择暂缓发布。

几个月后，OpenAI发布了ChatGPT。

在ChatGPT发布后约3个月以后，Anthropic才推出Claude，并逐渐因为编程能力而建立起一批忠实用户。

Dario事后也承认，他曾怀疑这样做是否正确，因为这可能导致Anthropic错过了与OpenAI竞争的时间窗口期。

在他的带领下，Anthropic成立仅仅两年多就成了独角兽。

如今，Anthropic已经发展成为AI竞赛中的一股重要力量。

在硅谷，也有不少人对比这两家AI初创公司，讨论Anthropic是否能追上OpenAI。

与OpenAI不同，Anthropic主要面向企业客户，而不是像OpenAI那样主要面向消费者（当然，OpenAI目前也在向企业级市场发力，去年11月OpenAI最新宣布其企业客户数已突破100万）。

Dario认为Anthropic专注企业客户，使其拥有「更持久」的收入来源，且「利润率」优于那些更偏向消费者产品的竞争对手。

Dario称，Anthropic的训练效率和推理效率都很高，如果努力管理好风险，同时也购买足够的算力，就能在竞争中不落后于其他玩家，「胜算在我们这边」。

据路透社报道，知情人士透露Anthropic有望在2025年底前实现内部设定的90亿美元年化营收目标，并预测其2026年年化营收增长将接近3倍，目标区间约为200–260亿美元。

2025年，Amodei兄妹以及其余联合创始人，都因公司估值而成为亿万富翁。

据福布斯估计，截至去年12月中旬，Dario Amodei的身家大约为37亿美元。

批评同行「YOLO」

呼吁守住AI快车的「方向盘」

Dario表示，Anthropic正在两件事之间谨慎地走钢丝：

建设数据中心所需的巨额投资，以及公司过度扩张的风险。

这两件事，也代表了公众对AI泡沫的普遍担忧。

Dario曾多次「不点名」地批评一些同行在算力与数据中心投资上过于激进，像是在「YOLO（You Only Live Once，你只活一次，网络语境里常指及时行乐、干了再说）」，认为这种行为是「把风险旋钮拧过头」。

2025年11月Google发布Gemini 3后，OpenAI在12月初内部发出「code red」动员以加速改进ChatGPT。

对此，Dario表示我们不需要搞「code red」，他强调Anthropic将以「更负责任地管理」与企业市场定位寻求差异化突破。

相比较「code red」这种突击式的革新，他更看重的是可以持续增长、持续开发模型。

去年11月，Anthropic宣布将花300亿美元购买微软Azure的算力，这使得它成为能同时上AWS、Google Cloud、Microsoft Azure三大云平台的模型提供方。

不止是同行之间，Dario也曾在AI监管政策方面，和白宫层面产生过观点交锋。

当时在相关法案谈判中曾出现「联邦预先排除州级AI监管」的提案并引发争议。

Dario批评这种做法，认为这好比正在开车，却要把方向盘拆下来，因为认准自己未来10年都不需要转向。

早期的AI启蒙

2011年，Dario在普林斯顿获得了物理学博士学位。

在斯坦福大学医学院做博士后研究期间，他的研究方向，是将生物医学数据用于构建与分析细胞蛋白质组的网络模型。

这段经历，让他看到了AI在研究领域的潜力。

它可以帮助像他这样的研究者去攻克生物学里那些看起来「大到人力根本搞不定」的问题。

2014年，Dario被时任斯坦福计算机科学系副教授、百度首席科学家的Andrew Ng（吴恩达）招募加入百度。

在百度做语音识别系统时，Dario初步形成了对AI规模化的直觉。

他曾在一次播客中提到那段经历，当时没有精确测量，但他和同事们已经非常强烈地形成了一种非正式的直观认识：

投入到这些模型里的数据越多、算力越多、训练越多，它们表现就越好。

和奥特曼一样，Dario Amodei也是一位「80后」。

1983年，他出生在旧金山。

他的母亲Elena Engel从事图书馆翻新与建设项目相关工作；父亲Riccardo Amodei是一名皮革工匠，在意大利厄尔巴岛附近的一个小镇长大。

在他的妹妹Daniela Amodei眼中，哥哥从小便显得很聪明，经常会一整天数数字，看自己能数到多高。

对于一名3岁小孩来说，这种专注力极其罕见。

也许正是这种天赋，造就了日后Dario Amodei在AI领域的成就。

参考资料：

https://www.businessinsider.com/dario-amodei