美国国防部与Anthropic合作，顶尖智库解析AI社会影响

人工智能公司Anthropic宣布设立“Anthropic研究所”，由联合创始人杰克·克拉克领衔，旨在整合其前沿红队、安全与社会经济学研究力量，专注于探究强大AI技术对社会形态、就业市场与经济格局产生的深远影响。该机构计划直接与正受到AI冲击的相关行业及社区展开对话。

免费影视、动漫、音乐、游戏、小说资源长期稳定更新！ 👉 点此立即查看 👈

此前，Anthropic就AI监管准则问题曾与美国国防部展开激烈交锋。本周，该公司再度推出一项新举措：成立一家智囊机构——Anthropic研究所，以“应对强大AI给社会带来的最严峻挑战”。

公司表示，该研究所将由Anthropic联合创始人杰克·克拉克领导，他将同时兼任公司公共利益部门负责人。研究所的教研人员将由“机器学习工程师、经济学家和社会科学家组成的跨学科团队”构成。

该研究所将整合并扩充三个内部团队：前沿红队，负责对AI模型进行压力测试与评估；社会影响团队，负责模拟AI在现实世界中的应用情境；经济研究团队，负责研究AI对经济与就业日益增长的影响。

Anthropic表示：“该研究所具备独特优势：它能够获取只有前沿AI系统开发者才掌握的信息，并将充分利用这一优势，坦率地汇报我们在了解所开发技术形态过程中的所学所悟。”

更出人意料的是，作为一家AI公司，它同时表示：“该研究所将与面临失业风险的工人和行业，以及那些感受到未来压力却不知如何应对的人群和社区进行接触。”

“供应链风险”

尽管研究所选择在本周成立可能只是巧合，但这一时机恰到好处，适时提醒世人，在AI伦理问题上，Anthropic自认与竞争对手有所不同。

Anthropic研究所只是近期一系列公告中的最新一项，其中还包括《Claude宪法》。这些公告展示了该公司为让外界了解其模型价值观和行为所依据的设计原则所作出的努力。

2024年，首席执行官达里奥·阿莫迪在一篇反思近期理想主义受到考验的文章中，阐述了他对“AI如何让世界变得更美好”的愿景。

2月27日，在美国国防部长软硬兼施、威胁利诱数周后，该公司因拒绝在AI伦理问题上让步，被其以“供应链风险”为由禁止参与五角大楼的项目。作为回应，不屈服的Anthropic于周一提起诉讼，要求法院对五角大楼发布临时限制令。

问题在于，企业客户该如何看待这场日益激化、看似不可调和的文化理念冲突。

AI治理平台Trustible的首席技术官安德鲁·加米诺-张表示，微软公开反对全面封禁Anthropic，这一事实可能具有重要意义。

他说：“微软此次对Anthropic的支持至关重要。”给Anthropic这种规模的公司贴上“供应链风险”的标签，也会让整个行业感到反感。

当然，微软去年11月向Anthropic投资了500万美元，并表示将在Copilot聊天机器人中使用Claude Sonnet。因此，Anthropic的命运不仅关乎其自身。

加米诺-张指出：“受此影响，许多初创企业和AI公司将对于与联邦政府开展业务持谨慎态度。”

不过，他认为Anthropic对AI伦理的关注，可能会吸引那些将AI治理视为重要议题的私营企业。

“Claude模型已在许多‘商业’类任务中开始脱颖而出，并明显优于其他大多数模型，这是因为他们对AI安全研究进行了投入，而这正是国防部所纠结的症结所在。”