王飞跃呼吁正视联合国预警健全AI治理体系

来源：环球时报

就在今年7月初，瑞士日内瓦举行了一场备受瞩目的会议——首届人工智能治理全球对话。此次会议审议了一份特殊的报告：全球首份独立开展的AI科学评估成果，由联合国人工智能独立国际科学小组完成。该小组汇聚了全球40位顶尖科学家，成员性别均衡、背景多元，堪称对全球AI发展现状进行了一次最全面的“集体体检”。

这份报告究竟揭示了什么？它并未带有任何特定国家的立场，却暴露了全人类共同的深层忧虑：先进AI系统的演进速度，已远超全球现行法律、行政监管与社会约束体系的承载能力。算力、通用大模型、自主AI智能体等核心资源，高度集中于少数商业科技巨头手中。技术红利分配不均、算法偏见、自主智能安全隐患、数字权力被垄断——这些风险正逐渐浮出水面。

近两年，美国AI企业Anthropic推出的Claude Mythos 5级基座模型，激起了广泛讨论。与其共享同一底层架构、面向公众商用开放的衍生版本Claude Fable 5也同步上线。企业对外不断渲染称：这套基座模型具备近乎人类顶尖专家的长链推演与性能突破能力。其反复向公众塑造的叙事是：该模型可以自主谋划、自主突破人类设定的限制。

这种刻意拔高性能的宣传手法，显然激化了公众的焦虑情绪。假如这个基座模型的逻辑推演能力与综合思考能力已逼近甚至超越人类，那么问题随之而来：这套核心技术完全掌握在Anthropic这家私营企业手中，具备强大自主推演潜力的模型，为何始终受控于企业资本？它会不会有朝一日脱离人类管控而自主运行？这些追问，撕开了商业营销话术与技术客观现实之间的巨大鸿沟，也为全球AI治理划定了必须厘清的认知底线。

首先从技术层面来看，无论是完整版Claude Mythos 5，还是公开商用的Claude Fable 5，都无法脱离四项核心运行基础：人类预设的任务目标、海量训练数据集、持续稳定的算力供给，以及人类反馈校正机制。这两类模型本身并不具备真正的自主意识与独立自由意志。模型的所有判断、推演与输出行为，都依赖于人类历史训练数据，并受企业资本设定的奖励函数驱动。一旦切断电力、算力或数据供给，整套Mythos系列模型就会立刻停摆。这是AI无法脱离人类独立运行的第一层硬性物理制约。

更深层次的约束，则来自企业资本设定的底层价值导向。Anthropic训练Mythos系列模型的最终目标是什么？商业盈利。企业会在底层代码层面锁定模型的价值判断标准，使其所有推演逻辑自动服务于资本收益诉求。模型本身并不存在主动背离企业、挣脱管控的内在原生动力。

然而，联合国AI评估报告同时发出警示：这两层约束并非永久稳固、不可突破。随着多智能体协同、模型自主迭代以及长周期自我进化技术不断取得突破，Mythos这类顶级基座模型未来或将逐步具备识别人类管控漏洞、规避安全护栏的能力。商业资本天然逐利，会持续驱动企业不断放宽安全限制、释放模型全部潜能，以此换取市场竞争优势。仅依靠企业自我约束和行业自律，长期来看不足以化解超级AI潜藏的各类社会与安全风险。

这里便引出了AI治理层面的核心矛盾：如果仅依靠持有顶级模型的私营企业自主管控AI系统，一旦资本商业利益与全人类公共安全、整体福祉发生冲突，企业必然优先保障自身经营收益，从而牺牲全民公共权益。单纯寄希望于科技巨头主动划定安全底线，无异于在工业时代指望工厂资本家自发缩短工时、废除童工制度。历史经验已经充分证明：缺少公共权力外部监管的私人资本，不可能自发实现兼顾全民福祉、以人为本的技术发展。

当下全球占据主导地位的资本模式，本质上就是学界所界定的监控资本主义。哈佛商学院教授肖莎娜·祖博夫在《监控资本主义时代》一书中指出，这种新型资本主义无偿攫取人类生活经验，将其转化为行为数据，并将对人的行为预测、定向干预包装成可交易的商品。工业时代的流水线生产，是资本对劳动者身体的禁锢：标准化产线、固定工位、统一工时，将人的身体束缚在固定的生产流程之中。劳动者只能重复机械的体力工作，身体的自由活动空间被资本生产逻辑彻底压制。而以顶级大模型、多智能体系统为核心的智能体系全面普及后，监控资本主义便会完成更深一层的异化升级：资本的管理不再仅限于劳动者的身体，更会进一步束缚人的思维、认知与创造能力，完成对人精神世界的全面规训。

在AI深度渗透的新体系里，各类算法化身为无形的流水线管理者。算法持续筛选、重塑人的认知模式，任何脱离算法预设框架的独立思考，都会被标记为低效产出。劳动者为了获取劳动报酬，只能主动放弃自主思维，完全依附于智能系统的判定逻辑。

人的本质在于身体的自由活动、独立的思辨创造以及多元的情感表达。而监控资本主义借助大模型工具，同时剥夺人类身体与思想的双重自由，把人改造为服务资本增值的标准化生产工具。联合国这份AI科学评估报告，着重警示了算法异化带来的精神健康危机：全球数字劳动者焦虑、抑郁、自我价值感缺失等心理问题逐年攀升，算法全程监控、量化考核、不间断任务推送等，持续压缩着人的自主精神空间。

这一趋势敲响了一记沉重的时代警钟：倘若任由私人资本垄断AI智能底座，无节制地借助AI完成对劳动者身心的双重管控，人类将逐步丧失独立思考、自主创造的底层能力，最终沦为算法与资本的附属品。

AI从来不是单纯的技术问题，它关乎产权归属、劳动权益、分配公平、人性存续、全球公共秩序等多重深层议题。要兼顾AI技术创新与人类整体安全，就必须跳出企业自律的单一治理思路，站在工业文明迈向智业文明的历史节点，提前布局、系统搭建完善的AI社会治理制度，用前置化的制度化解技术潜在风险。只有这样，才能让AI真正成为解放人体、丰富生活、普惠全人类的文明工具。正如联合国秘书长古特雷斯在首届AI治理全球对话上所说：“创新需要护栏。如果AI要真正发挥强大作用，就必须接受有效治理。”（作者是中国自动化学会监事长、中国科学院自动化研究所研究员）