Anthropic为何放弃关键安全承诺？AI技术发展过快引反思
Anthropic 北京时间2月25日，据《时代》杂志报道，美国AI创业公司Anthropic取得了巨大成功，并自诩为顶级AI研究实验室中最注重安全的公司。但是，Anthropic高管告诉《时代》，
Anthropic
北京时间2月25日，据《时代》杂志报道，美国AI创业公司Anthropic取得了巨大成功，并自诩为顶级AI研究实验室中最注重安全的公司。然而，该公司高管告诉《时代》，Anthropic正在放弃其旗舰安全政策的核心承诺。
该公司曾在2024年承诺，除非能提前确保拥有足够的安全措施，否则绝不训练AI系统。这一承诺成为了Anthropic“负责任扩展政策”的核心支柱。多年来，该公司高层一直将此承诺奉为他们是一家负责任、能够抵御市场诱惑、不急于开发具有潜在危险技术公司的有力证明。
但最近几个月，公司决定对RSP进行彻底改革。这一决定包括放弃原先的承诺，即如果无法提前保证适当的风险缓解措施，就不会发布AI模型。
Anthropic首席科学家贾里德·卡普兰在接受《时代》独家专访时表示：“我们认为，停止训练AI模型实际上对任何人都没有帮助。随着AI的快速发展，我们并不觉得在竞争对手快速推进的情况下，我们做出单方面承诺是合理的。”
《时代》查阅的Anthropic新版政策包括：承诺在AI安全风险方面更加透明，包括额外披露Anthropic自有模型在安全测试中的表现；承诺在安全方面的投入与努力要达到或超越竞争对手的水平；它还承诺，如果领导层认为Anthropic是AI竞赛的领先者，并且认为发生灾难性风险的可能性很大，那么他们将“推迟”Anthropic的AI开发进程。
但总体来看，RSP 的这一调整让Anthropic在安全政策上受到的约束大幅减少。此前，该政策明确禁止公司在没有适当安全措施的情况下，训练超过特定水平的模型。
目前，Anthropic面临来自OpenAI、埃隆·马斯克旗下xAI以及谷歌等竞争对手的激烈竞争，这些对手都在定期发布尖端工具。同时，该公司也与美国国防部就其Claude工具的使用方式陷入争执。此前，Anthropic已告知五角大楼，这些工具不得用于国内监控或致命性自主行动。但是，美国国防部也向Anthropic发出最后通牒，如果限制使用就解除与Anthropic的合同。
Anthropic表示，此次安全政策的调整是基于AI发展速度以及联邦层面缺乏相关法规而做出的更新。
Anthropic发言人表示，此次调整旨在帮助公司在不平衡的政策背景下与多家竞争对手抗衡。在这种环境中，公司必须自行判断安全防护措施是否足够。她还表示，这一安全承诺与五角大楼的谈判无关。
“政策环境已转向优先考虑AI的竞争力和经济增长，而安全导向的讨论尚未在联邦层面获得实质性进展。”Anthropic在宣布这一调整的博客文章中表示。该公司称，仍致力于遵循行业领先的安全标准。
你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：Anthropic为何放弃关键安全承诺？AI技术发展过快引反思要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题
游乐网为非赢利性网站，所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享，版权归原作者所有，本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容，请联系youleyoucom@outlook.com。
相关热点最近留意到一款AI聊天机器人构建工具——Craftman，它的核心思路很有意思：让企业或个人能用自己已有的数据来训练ChatGPT，然后直接嵌入到网站上做智能客服或问答助手。简单来说，就是把通用大模型变成你的专属知识库响应系统。什么是Craftman？Craftman是一个AI聊天机器人构建平台，允
如果告诉你，现在借助AI技术就能一键生成时长16秒、分辨率达1080P的高清视频，并且画面流畅自然、物理规律真实可信，你是不是觉得有些不可思议？事实上，这就是Vidu——由中国生数科技与清华大学联合打造的全球首个长时长、高一致性、高动态性视频大模型。它采用独创的Diffusion与Transform
想象一下，你拥有一个庞大而复杂的知识库，里面堆满了各类文档、PDF文件以及YouTube视频教程。过去想要查找某份资料，往往需要翻遍目录、反复尝试关键词搜索，效率低下令人困扰。如今，借助Hansei这款知识库管理工具，一切变得轻松高效——你只需像与朋友聊天一样，用自然语言提出需求，AI助手就能从你的
Blinkn是基于ChatGPT的智能电商购物助手，具备语义理解、精准产品推荐与比较、多语言支持等功能，可与主流平台无缝集成并个性化定制，提供7×24小时实时客服，高效解决购物疑问，显著减少决策摩擦，提升转化率与用户体验。
- 日榜
- 周榜
- 月榜
热点快看