奥特曼认错：与五角大楼AI安全协议太仓促，需增添“护栏”

澎湃新闻记者 吴遇利

ChatGPT正面临大规模用户抵制，“取消ChatGPT（CancelChatGPT）”运动正在美国社交媒体平台上迅速蔓延。

3月3日，外媒引用美国移动应用数据分析公司Sensor Tower的数据称，2月28日OpenAI宣布与美国国防部达成协议当天，美国ChatGPT移动应用程序卸载量较前一天激增295%。与ChatGPT过去30天日均约9%的卸载率相比，这是一个显著的数字增长。

ChatGPT的下载量增速也受到合作消息的影响。消息公布后，其在美国的下载量环比下降了13%；3月1日下载量继续环比下降5%。而在合作消息公布之前，该应用的下载量在周五环比增长了14%。

据新华社报道，2月28日，OpenAI宣布已与美国国防部达成协议，将公司人工智能模型部署于五角大楼的机密网络。OpenAI首席执行官萨姆·奥特曼在社交媒体平台X发帖说，与五角大楼的合作遵循该企业坚持的原则，即人工智能不得用于“国内大规模监控”、包括自主武器系统在内的武力使用必须由人类负责。

针对当下的情形，OpenAI方面作出了快速回应。

3月3日，奥特曼在X平台发文认错，称上周五宣布公司与五角大楼的新协议时过于仓促。他承认，此举是“错误的”，并表示“这些问题极其复杂，需要清晰沟通”。

“我们确实想缓和局势，避免更糟糕的结果，但我认为我们的做法看起来只是投机取巧和草率行事。这对我个人来说是一次很好的学习经历，因为我们未来将面临更重要的决策。”他写道。

在文章中，奥特曼称将针对协议内容进行修正，为合作划定红线。

首先，他提到，公司将修改协议，明确规定其AI系统“不得被故意用于对美国公民或国民的国内监控”。新增条款指出，依据相关法律，系统不得用于针对美国人的监控，并明确禁止“故意追踪、监视或监控”，包括通过采购或使用商业获取的个人或可识别信息。

其次，公司服务确保“不会被用于国防部情报机构”。如未来向此类机构提供服务，需另行修改合同。

第三，他表示公司希望“通过民主程序”开展合作，“应由政府作出关于社会的关键决策”。公司希望拥有发声的机会，并在决策桌上占有一席之地，以分享专业知识，并为自由原则而努力。“如果我收到一项我认为违宪的命令，我当然宁愿入狱，也不会执行。”他补充说。

此外，奥特曼指出，该技术“尚未准备好”用于许多场景，部分安全权衡仍未厘清，公司将与国防部“缓慢推进”，并配合技术保障措施审慎实施。

就在OpenAI宣布合作的一天前，另一家美国人工智能企业Anthropic与五角大楼因在人工智能技术应用范围问题上存在严重分歧而不欢而散。

与此同时，Anthropic公司的Claude在美国的下载量在2月27日环比增长37%，并在2月28日增长51%。

这些快速变化也反映在Claude在应用商店的排名上。数据显示，Claude在2月28日登上美国AppStore榜首，截至3月2日仍然保持这一位置。与大约一周前相比，排名跃升了20多位。

据环球网2月28日报道，美国国防部此前施压Anthropic公司允许军方不受限制使用其旗下AI大模型，但遭该公司拒绝。Anthropic被特朗普政府列为“供应链风险”。

据美媒此前报道，在美军对委内瑞拉的军事行动中，美军方使用了Anthropic旗下的AI大模型Claude。消息被曝光后Anthropic公司向五角大楼求证该消息是否属实，并向对方表达了关切。此事激化了该公司与五角大楼在AI应用以及战争伦理方面的分歧。

本期编辑 邱隽