Anthropic CEO呼吁强制测试AI模型并赋予政府干预权

近期，人工智能领域再度掀起波澜——Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）于6月10日发表长文，一方面呼吁对AI模型实施强制性安全测试，另一方面明确指出：若新模型存在特定风险，政府有权直接叫停其部署。这一主张看似激进，但深入分析其背后的逻辑，实则合乎情理。

阿莫迪在文章中反复强调一个核心理念：AI模型，尤其是大型语言模型，不能仅依赖企业的自我约束。他主张这些模型必须接受第三方强制性测试，测试范围涵盖多个领域，包括网络安全威胁的潜在风险以及被用于开发生物武器的可能性。简而言之，任何模型在正式上线前，都需要经过外部独立评估，以验证其是否可能引发严重问题。

若测试结果判定某一模型“构成不可接受的风险”，政府权限将立即升级，可直接阻止或限制其部署。换言之，这并非“建议整改”的柔和态度，而是“禁止发布”的强硬指令。

值得注意的是，Anthropic上周还提出另一项机制：建议由政府与AI开发商共同组建一个“决策小组”，一旦技术风险信号亮起红灯，双方共同决策何时应减缓研发速度、何时应暂停项目。这好比给高速飞驰的AI列车安装了一套紧急制动系统。

“是时候超越透明度，对人工智能实施更严格且更具约束力的监管了，”阿莫迪在文章中写道，语气中透露出行业资深人士的严肃态度。接着，他提出了一个有趣的类比：至少在当前技术呈指数级发展的阶段，最恰当的类比不是自媒体或软件，而是汽车、飞机或药物。这些技术对现代经济至关重要，但如果设计或操作不当，可能造成大规模伤亡。

这段表述背后释放了一个重要信号：AI行业的顶尖玩家已经开始主动呼吁政府介入监管。这在几年前几乎难以想象，毕竟硅谷对政府监管的传统态度往往是“阻碍创新”。然而，随着模型能力不断增强、应用场景日益广泛，行业内部逐渐认识到——失控可能带来更大的灾难。

当然，阿莫迪的呼吁最终能否落地，还需要政策和法律层面的支持。但他的这番话至少指明了一个清晰的方向：AI不能再仅靠一份“白皮书”和若干原则来获取信任。未来，合规将成为硬性门槛，而政府的干预权限也将从“建议”升级为“命令”。

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：Anthropic CEO呼吁强制测试AI模型并赋予政府干预权要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题