Anthropic招募武器专家，严防AI模型涉足核武等大规模杀伤性武器

美国人工智能公司Anthropic正在招募一名化学武器和高爆武器专家，旨在防止其AI模型被用于制造大规模杀伤性武器。该公司还开发了一种过滤器，并将其集成到系统中，用以识别和阻止与核武器相关的滥用行为。

▲创意图

Anthropic近日公开发布的招聘信息显示，申请人需具备至少5年“化学武器和/或爆炸物防御”经验，并了解“放射性散布装置”，即脏弹。该公司担心，其Claude AI模型可能被用于“灾难性滥用”。

Anthropic表示，这一职位与公司已在其他敏感领域设立的岗位类似。

但一些专家对此做法表示担忧。科技研究员、英国《AI解码》节目联合主持人斯蒂芬妮·海尔博士质疑道：“让AI系统处理敏感的化学品、爆炸物和放射性武器信息，真的安全吗？即便指令是AI不得使用这些信息。”

斯蒂芬妮·海尔说：“目前没有国际条约或其他法规来规范这类工作以及AI与这些武器的结合使用。所有这一切都在公众视野之外进行。”

AI行业人士持续警告技术可能带来的威胁，但从未放缓发展步伐。这一问题在美国政府呼吁AI公司参与伊朗战争和委内瑞拉军事行动之际变得更加紧迫。

▲Claude AI模型被指参与美军袭击伊朗的行动 据视觉中国

Anthropic目前正起诉美国国防部，因后者将其列为“供应链风险”。此前，Anthropic反对美军将其AI系统用于自动化武器攻击或大规模监控美国人。Anthropic联合创始人阿莫代伊今年2月撰文称，他认为技术还不够成熟，不应用于这些目的。

白宫表示，美军不会受科技公司约束。

OpenAI曾公开表态支持Anthropic的立场，随后自行与美国政府谈判并签署了独立合同。目前，该公司称该合同尚未开始执行。OpenAI正式显示，该公司正在招募一名“生物和化学风险研究员”，薪资高达45.5万美元，几乎是Anthropic提供的薪资的两倍。

红星新闻记者 邓纾怡

编辑 郭庄

审核 官莉