Anthropic呼吁全球放缓AI研发 自我迭代闭环或致人类失控

人工智能初创公司Anthropic近期抛出了一个颇具冲击力的判断：AI技术正加速接管自身的研发工作，而这一趋势若发展至极致，可能带来超乎想象的社会风险。

当地时间6月4日，Anthropic在官网发布了一篇文章，详细阐述了这一观点。文章指出，随着AI越来越多地参与到自身的迭代中——在足够的算力支撑下，AI系统将能够完全自主地设计、开发和训练出比自身更强大的下一代系统。换言之，AI可能实现一种人类尚未准备好迎接的“递归自我改进”（Recursive Self-Improvement）。这听起来像科幻，但这家公司正认真提醒我们：这已经不是纯粹的理论假设了。

那么，面对这样的趋势，应该怎么办？Anthropic的态度很直接：放缓全球尖端AI的发展速度“可能是一件好事”。不过，他们也补充了一句——如果只有一家公司停下来，竞争对手就会加速往前冲。要让减速真正落地，意味着多个国家的多家大型AI公司都必须同意实现“可验证的共同减速”。这显然不是一个轻松的协调任务。

为了说明AI现在有多“能干”，Anthropic搬出了自己的内部数据：目前，在公司生产系统的代码中，超过80%是由其AI助手Claude自主编写的。而在2025年2月推出编程工具Claude Code之前，这一比例还只是个位数。如今，“Claude负责写代码、人类负责指导和审查”已成为公司的典型工作模式。结果呢？今年第二季度，Anthropic的工程师平均每人每个季度交付的代码量，达到了2024年的8倍。

不过，代码行数衡量的终究是数量，而非质量。但Anthropic特意强调，他们并不根据员工编写的代码行数来发奖金——所以这个增长，更多反映的还是生产力在AI推动下的真实跃升。根据公司今年3月对130名员工的采访统计，AI能够独立稳定完成的任务长度，已经从早期的“每7个月翻倍”缩短到了现在的“每4个月翻倍”。迭代速度在加快，而且肉眼可见。

模型在实验优化和科研任务上的表现同样惊人。举个具体的例子：在“优化小模型训练代码使其运行更快”的测试中，2025年5月，Claude Opus 4平均只能让代码加速约3倍；而到了2026年4月，其Mythos预览版模型已经达到了52倍的加速。这不是小步快跑，而是跨越式的飞跃。

基于这些数据，Anthropic提出，在合适条件的支持下，AI完全可能形成一个不断自我迭代增强的能力闭环，也就是所谓的“递归自我改进”。公司也坦言，人类目前还没达到这个阶段，这一趋势也并非必然发生——但它到来的速度，很可能会超出绝大多数机构和组织的准备节奏。

为了让讨论更清晰，Anthropic给出了三种未来可能性：第一种，技术进步大幅放缓；第二种，AI持续带来巨大的生产力增益，但人类仍然掌握着最终控制权——这一条是目前看来最有可能发生的场景；第三种，AI系统彻底跨入全面自建其继承者的阶段。如果第三种成真，尽管AI自建能力能为科学、医疗等领域带来无与伦比的益处，但其中蕴含的生存风险同样巨大——人类可能失去对AI系统的控制权，监督也将变得极其困难。

因此，Anthropic呼吁：国际社会、政府以及顶尖AI实验室应当共同努力，建立一个有效的全球协调机制，以便在必要时能够主动放慢或暂时停止前沿AI的发展。目的很明确：给人类留出足够的时间，来调适社会结构、推进AI对齐研究。

这篇文章发布的时机耐人寻味。就在几天前的6月1日，Anthropic刚刚宣布已向美国证券交易委员会（SEC）保密递交了S-1注册声明草案，正式启动IPO筹备流程。如果SEC审核顺利，公司就可以择机上市。根据Anthropic的披露，其年化收入（ARR）已在今年5月初突破470亿美元，有望在本月底达到500亿美元。虽然上市的具体时间和募资规模尚未公布，但分析指出，公司最快可能于今年秋天挂牌。目前，Anthropic的估值已达9650亿美元，超越了竞争对手OpenAI的8520亿美元。

一边是技术前沿的风险预警，一边是资本市场的高歌猛进——Anthropic这一手“先示警、再上市”的组合拳，确实值得关注。

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：Anthropic呼吁全球放缓AI研发 自我迭代闭环或致人类失控要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题