Anthropic CEO称公司从未主张禁止开源AI模型

近期，AI行业内关于“是否应开放权重”的讨论愈发激烈，成为焦点话题。

上周五，英伟达、Meta、微软等20余家科技企业联合签署了一封题为《开放权重与美国AI领导力》的公开信，明确表示支持开放权重AI。随后在周末，OpenAI、谷歌和SpaceX也相继加入该名单。

然而，有一家公司始终未作表态——Anthropic。其长期沉默很快招致同行的公开批评。

今天，Anthropic首席执行官Dario Amodei终于打破沉默，发表了一篇博文，标题为《我们对开放权重模型的立场》。文中提到，多家科技公司已签署支持开放权重模型的声明，甚至有人指责Anthropic企图通过禁止开放权重模型来维护自身商业利益。他的回应直截了当：“任何读过我过往文章的人都应清楚，我并不认为这种禁令是有效的措施。但我要明确声明，Anthropic从未主张过禁止开放权重模型。”

Dario Amodei进一步解释，那些不具备危险功能的开放权重模型本质上是一种公共资产。除了需要计算资源来运行外，它们不会产生额外成本，同时能为企业、开发者和研究人员带来切实的价值。

不过，他也明确表示，保护主义式的禁令根本无法解决他真正关切的国家安全问题。他倡导的核心是：严厉打击工业规模的蒸馏操作，同时要求无论开源还是闭源模型，都必须接受强制性的安全测试。

他表示认同公开信中的大部分观点，但有一个关键分歧——公开信认为开放权重模型更容易部署防护措施，或者说广泛的可获取性会使防御者比攻击者更具优势。在他看来，事实可能恰恰相反。

为了阐述他的担忧，Dario Amodei举了一个例子：类似于生物学领域显著的攻防不对称现象——能力强大的模型可能利用现有材料快速制造出具有大规模杀伤力的病毒，而针对这些病毒的防御则需要多年时间才能完成。

他的结论是：这类问题应通过严格的发布前测试加以验证，而非事先做出假设。