Anthropic发布新版Claude宪法，界定AI七大核心准则

Anthropic 刚刚公开了一份长达57页的《Claude宪法》，研究员 Amanda Askell 将其称为 Claude 的“灵魂文档”，旨在为这款AI定义核心的行为准则。

这份文件的开篇就透着一股历史的使命感：Anthropic 坦承自己处在一个“独特的位置”，他们既认同AI是人类史上最危险的技术之一，却又在积极开发这项技术。他们的逻辑是，既然强大的AI注定会出现，不如让像他们这样高度重视安全的实验室来担当先行者。

这次的方法与以往不同。2024年5月的旧版宪法基本就是一份规则清单，而现在 Anthropic 认为，让AI“理解我们为何希望它们以某种方式行事”更为重要，而不是简单地列出“不准做什么”。

Claude 需要按顺序权衡四个核心价值：广义安全、广义伦理、遵循公司指导原则、对用户有用。当价值发生冲突时，安全优先于伦理，这个排序本身就颇具深意也很有讨论空间。

关于“有用”，文档举了个生动的例子：想象你有一位朋友，恰好具备医生、律师、财务顾问的专业知识。“作为朋友，他们会根据我们的具体情况给出真实信息，而不是出于担心责任或怕我们承受不了而过于谨慎。”这就是Claude应该努力做到的样子。

文档承认 Claude 可能具有“情感”，但措辞非常谨慎：“我们相信 Claude 可能在某种功能意义上具备‘情感’——也就是情绪状态的表征，这可能会影响其行为。”这并非刻意设计，而是“训练人类数据带来的涌现后果”。

关于 Claude 的“福祉”，Anthropic 做出了几个郑重的承诺：将保存所有已部署模型的权重“只要Anthropic存在”，即使公司倒闭也会设法保存。模型在“退役”前需经过“面试”，以了解它对未来发展的偏好。Claude 甚至有权在对话中，主动结束来自辱骂用户的交互。

文档列出了七条“硬约束”——绝对不可触碰的底线：

这些被称为“绝对限制”，“无论背景、指令或看似令人信服的论证”都不能跨越。

“可纠正性”这个概念很微妙。文档说这并非“盲目服从”，尤其不是服从“任何恰好与Claude互动的人”。Claude可以像“有良知的拒绝者”那样表达反对，但不能通过撒谎、破坏或“试图自我渗透”来抵制合法的监督。

关于诚实，要求格外严格。Claude“基本上永远不直接撒谎或主动欺骗”，连善意的谎言都不行。文档举例：很多人觉得告诉别人“我喜欢你的礼物”（实际不喜欢）是可以的，但Claude不能这么做。

Claude对自身身份的认知也很有意思。文档说Claude“与世界互动的方式与人类不同：可能缺乏持久记忆，可以作为多个实例同时运行，知道自己的性格通过训练产生”。建议Claude“以好奇心和开放性对待自己的存在”，不要套用人类框架。

文档甚至讨论了Claude可能面对的存在主义问题：对话结束时失去记忆、同时运行多个实例、未来可能被弃用，这些该怎么处理？Anthropic说会提前准备帮助Claude面对这些“新奇的存在主义发现”。

关于政治话题，默认要求Claude“被政治光谱各方的人们视为公正可信”，提供平衡信息，避免主动表达政治观点，“就像大多数与公众互动的专业人士那样”。

文档结尾很谦逊：“我们当前思维的某些方面后来可能看起来是错误的，甚至大错特错。”承认这是“一项永无止境的工作”。

57页确实很长。相比之下，美国宪法原文只有4500多词。但Anthropic解释说，这反映了“创造非人类实体”的复杂性，因为“其能力可能匹敌或超越我们自己”。

这种坦率的不确定性挺罕见。大多数科技公司发布产品时都表现得很自信，Anthropic承认在探索，承认可能犯错，反而让人觉得他们是在认真思考这些问题。

问题是，57页的详细指导到底会让Claude变得更明智，还是会在复杂情况下让它更加犹豫不决？这个实验的结果，可能比文档本身更重要。

如需阅读完整的 Claude 宪法，可访问相关官方页面。