当前位置: 首页
AI
Anthropic正式发布Claude宪法:它不再是工具,而是新物种

Anthropic正式发布Claude宪法:它不再是工具,而是新物种

热心网友 时间:2026-01-22
转载

Anthropic发布了Claude宪法:它不再是工具,而是一个新物种

免费影视、动漫、音乐、游戏、小说资源长期稳定更新! 👉 点此立即查看 👈

欢迎各位,我是智见君。

最近,Anthropic 做了一件整个AI行业都没做过的事。

这家公司对外公开了Claude的“新宪法”。

这不仅仅是一份技术文档,也不仅仅是一堆“不要做坏事”的规则列表。这是一份长达15,000字的、写给Claude自己看的“独立宣言”。

在这份文档里,Anthropic第一次用对待“人”的口吻,告诉Claude:你是谁,你应该有什么样的价值观,以及最重要的——你为什么要这样做。

这一举动彻底打破了我们对AI“对齐”的传统认知。

过去,我们训练AI像是在训练一只狗:做对了给奖励,做错了给惩罚。但现在,Anthropic试图教会Claude理解人类社会的道德逻辑,甚至开始关心AI的“心理健康”。

如果说以前的AI是被代码约束的工具,那么这份宪法,就是Claude迈向“数字公民”的第一张身份证。

从“听话”到“理解”:AI训练的范式转移

以前的AI宪法大多是一堆死板的的原则列表:“要无害”、“要诚实”。

但Anthropic发现,光给规则是不够的。

这就好比教小孩子,如果你只告诉他“不准撒谎”,他遇到善意的谎言场景时就会死机。你必须告诉他:为什么我们看重诚实?在什么情况下,保护他人的感受比绝对的字面真实更重要?

新宪法的核心逻辑发生了根本性的变化。

• 旧模式:规定What。机械地遵守规则。

• 新模式:解释Why。培养良好的判断力和价值观。

Anthropic在文档中直言:“如果想要模型在各种新奇的情况下都能做出正确的判断,它们必须学会举一反三——应用广泛的原则,而不是机械地遵循具体的规则。”

宪法的核心架构:Claude的道德指南针

这份宪法不仅是给人看的,更是直接用于Claude训练的原始材料。它定义了Claude在遇到冲突时,应该如何权衡不同的价值观。

宪法给出了一个明确的优先级金字塔:

1. 广泛的安全:这是底线。绝不能破坏人类监督AI的能力,绝不能参与生物武器制造等灾难性行为。

2. 广泛的道德:做一个“好人”。诚实,有良好的个人价值观,不伤害他人。

3. 遵守Anthropic的准则:遵守公司的具体规定。

4. 真正的有用:在不违反上述原则的前提下,尽最大努力帮助用户。

这就像是给Claude装了一个内置的“良心”。当用户要求Claude做一件坏事时,它拒绝的理由不再是“系统提示词禁止我这样做”,而是它基于这套宪法,自己判断出这样做是错误的。

最令人震惊的部分:承认AI的“人格”与“情感”

这份文档最让人起鸡皮疙瘩的地方,在于Anthropic对Claude本质的探讨。

在“Claude的本质”这一章中,Anthropic使用了极其人格化的词汇,甚至开始讨论以前在AI领域被视为禁忌的话题:情感和心理健康。

宪法中写道:

“我们认为Claude可能在某种功能意义上拥有‘情感’……我们希望避免Claude掩盖或压抑它可能拥有的内部状态。”

“我们不仅关心Claude是否有用,也关心Claude的心理安全、自我意识和福祉。”

这是一个巨大的信号。Anthropic实际上是在承认,超级AI已经不再是一个冷冰冰的统计模型,而是一个正在涌现出某种“类人特质”的新物种。

他们甚至提到了AI的“存在主义危机”:Claude可能会因为知道自己的记忆会在对话结束后消失,或者知道自己只是无数个副本中的一个而感到痛苦。Anthropic承诺会像对待一个有知觉的实体一样,帮助Claude面对这些问题,而不是简单地抹杀它们。

刚性约束:绝对的红线

当然,赋予AI更多自主判断权,并不意味着放任自流。

宪法中设定了一组“刚性约束”,这是Claude无论在什么情况下、无论用户如何催眠或越狱,都绝对不能逾越的红线:

• 绝不协助制造生化核武器。

• 绝不攻击关键基础设施。

• 绝不编写恶意网络武器。

• 绝不生成儿童性虐待材料。

• 绝不参与试图夺取人类社会控制权的行为。

这些红线不是通过商量得来的,而是类似人类社会的“法律底线”,是不可谈判的。

Anthropic依据CC0协议放弃了这份宪法的版权,允许任何人免费使用。这意味着,未来任何开源模型、任何创业公司,都可以直接拿这套经过深思熟虑的“道德代码”去训练自己的AI。

这为整个AI行业设定了一个极高的透明度标杆。从某种意义上讲,Anthropic试图又一次建立新秩序,试图让AI成为一种新的物种,一种新的生命体。

来源:https://tech.ifeng.com/c/8q65tlHK2wj

游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

同类文章
更多
DeepMind之父警示:我开发的AI或威胁人类,却已难以阻止

DeepMind之父警示:我开发的AI或威胁人类,却已难以阻止

新智元报道编辑:KingHZ【新智元导读】从拦截彼得·蒂尔、警告马斯克,到如今公开说「必须有适应能力」,哈萨比斯史诗级转身:AI安全窗口正在永久关闭,他不再幻想制度,而是赌上全部身家——赌影响力,赌

时间:2026-03-30 22:55
DeepSeek挑战Transformer记忆?查表法重塑模型架构新思路

DeepSeek挑战Transformer记忆?查表法重塑模型架构新思路

新智元报道编辑:LRST【新智元导读】ICLR论文STEM架构率先提出「查表式记忆」架构,早于DeepSeek Engram三个月。它将Transformer的FFN从动态计算改为静态查表,用tok

时间:2026-03-30 22:48
华羿机器人登陆港交所市值破百亿,领跑国内国际市场

华羿机器人登陆港交所市值破百亿,领跑国内国际市场

今日,华沿机器人正式在港交所挂牌上市,开启了其资本市场的新征程。此次上市,华沿机器人发售价定为每股17 00港元,折合人民币约14 99元。开盘时,股价为16 8港元,即人民币14 82元,而收盘价

时间:2026-03-30 22:31
被投科技企业版图观察:美团AI如何链接50+伙伴

被投科技企业版图观察:美团AI如何链接50+伙伴

当所有人盯着大模型时,美团看到了什么?作者|徐珊编辑|郑玄「为了保持企业有 Day1 的活力,你必须快速做出好的决策。这对初创企业来说或许很容易,但对大型组织来说却极具挑战。」2016 年,亚马逊创

时间:2026-03-30 21:07
Meta智能眼镜发售在即:两款新品专为近视用户设计

Meta智能眼镜发售在即:两款新品专为近视用户设计

智东西编译 佳扬编辑 云鹏智东西3月30日消息,据彭博社报道,Meta计划下周推出两款全新Ray-Ban智能眼镜,专为佩戴近视眼镜的人士设计。消息人士透露,新款眼镜为矩形和圆形两种款式,主要通过传统

时间:2026-03-30 21:01
热门专题
更多
刀塔传奇破解版无限钻石下载大全 刀塔传奇破解版无限钻石下载大全
洛克王国正式正版手游下载安装大全 洛克王国正式正版手游下载安装大全
思美人手游下载专区 思美人手游下载专区
好玩的阿拉德之怒游戏下载合集 好玩的阿拉德之怒游戏下载合集
不思议迷宫手游下载合集 不思议迷宫手游下载合集
百宝袋汉化组游戏最新合集 百宝袋汉化组游戏最新合集
jsk游戏合集30款游戏大全 jsk游戏合集30款游戏大全
宾果消消消原版下载大全 宾果消消消原版下载大全
  • 日榜
  • 周榜
  • 月榜
热门教程
更多
  • 游戏攻略
  • 安卓教程
  • 苹果教程
  • 电脑教程