OpenAI被迫修改与美军合作协议，内部反对强烈

3月3日，据BBC报道，OpenAI透露正在与美国政府重新协商关于其技术被用于机密军事行动的协议，此前双方达成的协议被指存在"投机取巧且草率"的问题。

周一，OpenAI首席执行官Sam Altman表示，该公司计划在协议中增加条款，包括明确禁止使用其系统监视美国公民。

此前，OpenAI的竞争对手Anthropic因将其人工智能模型Claude用于大规模监控和全自动化武器等问题，与美国国防部产生争议，最终双方于周五达成协议。

这一事件引发了人们对人工智能在战争中的应用方式，以及政府和私营公司各自拥有多大权力的质疑。

OpenAI周六发表声明称，其与五角大楼达成的协议"比以往任何针对机密人工智能部署的协议都包含更多保障措施"。

但周一，奥尔特曼在社交平台上发帖称，正在进行进一步的修改，包括确保其系统不会"故意用于对美国公民和国民进行国内监视"。

作为新修正案的一部分，国家安全局等情报机构也将无法使用OpenAI的系统，除非对合同进行"后续修改"。

奥尔特曼补充说，公司急于"在周五发布这个消息"是个错误。

他表示："这些问题非常复杂，需要清晰的沟通。"

"我们当时确实想缓和局势，避免更糟糕的后果，但我认为这看起来只是投机取巧和草率行事。"

OpenAI宣布与五角大楼合作后，遭到了用户的强烈反对。

据报道，该公司移动应用程序的日卸载量在周六飙升至295%，而通常情况下卸载量为9%。

与此同时，Anthropic的Claude登上了苹果应用商店排行榜榜首，截至周二仍保持在该位置。

由于Anthropic公司拒绝放弃其企业"红线"原则，该人工智能模型被美国政府列入黑名单。

尽管如此，在禁令颁布几小时后，Claude在美以对伊战争中的使用情况就浮出水面了。

五角大楼拒绝就其与Anthropic公司的交易发表评论。

人工智能在军事领域有多种应用，例如简化后勤或快速处理大量信息。

美国、乌克兰和北约都使用了来自Palantir的技术，这是一家美国公司，为政府客户提供数据分析工具，用于情报收集、监视、反恐和军事目的。

英国国防部最近与该公司签署了一份价值2.4亿英镑的合同。

去年年底，BBC采访了一些参与将Palintir的人工智能防御平台整合到北约的人员。

Palantir英国业务负责人表示，该软件汇集了大量的军事信息，从卫星数据到情报报告，然后可以由Claude等商业人工智能系统进行分析，以帮助做出"更快、更高效、最终在适当情况下更具杀伤力的决策"。

但是人工智能大型语言模型可能会犯错，甚至编造一些东西——这被称为"产生幻觉"。

北约特遣部队的首席数据官强调，他们始终进行人工监督，并补充说，他们"总是会引入人来参与决策"，而且"绝不会出现"人工智能"替我们做决定"的情况。

与Anthropic不同，Palantir不支持全面禁止自主武器，而是表示应该"有人参与其中"。

但牛津大学的教授告诉BBC，随着人工智能公司退出五角大楼，"最有安全意识的参与者"现在"离开了房间"。

"那确实是个问题。"她补充道。