DeepMind CEO表示AGI将比电和火更强大

先说说几个核心判断：谷歌DeepMind的CEO杰米斯·哈萨比斯今年第二次公开预测，通用人工智能（AGI）将在本世纪末到来。但这次，他的说法比以往任何时候都更激进——他认为这不仅仅是又一次技术突破，其意义堪比电与火的发现。

周二，哈萨比斯在X上发表的一篇长文中写道，AGI“可能只有短短几年的时间”，并将其描述为一项能够重塑人类文明的技术。他这样形容：“当我们在未来几十年回顾这个时刻时，我想我们会意识到我们正站在奇点的山脚下——这不亚于人类新时代的黎明。”

按照他的定义，当计算机能够像人类一样（甚至更好地）理解、学习和执行各种任务时，AGI就实现了。他特别强调，这种突破不应与互联网或移动计算相提并论，因为它的影响要大得多。“这更像是发现电或火，”他写道，“如果你停下来想一想，我们基本上找到了一种让沙子思考的方法。这太神奇了。”

不过，乐观归乐观，哈萨比斯也发出了明确的警告：人工智能能力的发展速度，已经超过了社会理解和管理风险的速度。他提到，当今的前沿模型已经带来了网络安全威胁，而未来的系统更可能引入生物、核以及其他国家安全风险。随着AI变得越来越主动、甚至能够自我改进，人类需要更强有力的技术保障来确保自己始终处于控制地位。

“在不久的将来，我们将需要强有力的保障措施，来维持对日益主动、递归自我改进的系统的控制，并解决那些随着时间的推移只会变得更加清晰的未知问题。”他写道。

这番表态并不孤立。自2022年ChatGPT公开亮相以来，整个AI领域的领导者们几乎都在密集警告：AGI的到来可能比预期更早。2026年1月，Anthropic首席执行官达里奥·阿莫迪就表示，人类水平的人工智能可能在一到五年内出现，并直言各国政府严重低估了发展速度。到了今年6月，哈萨比斯本人也预测AGI将在2030年到来，并警告社会“准备时间不多了”。

为了应对这些挑战，哈萨比斯提出了一项具体的制度设计：以美国金融业监管局（FINRA）为蓝本，创建一个全新的“前沿人工智能标准机构”。FINRA是一个监管美国经纪公司的私人组织，而哈萨比斯建议的新机构，将是一个受联邦政府监管的公私合作伙伴关系，主要由人工智能行业提供资金，并由独立技术专家和开源社区代表组成，专门负责评估前沿人工智能模型。

“我们在人工智能领域看到的快速进步，需要一种新的方法来测试动态、适应性强且严格的前沿模型能力，”他写道，“鉴于其经济和技术地位，美国处于有利位置，可以在制定此类框架方面迈出第一步。”

这个提议并非孤例。2023年5月，在美国参议院司法委员会听证会上，OpenAI的CEO Sam Altman就呼吁联邦机构对强大的人工智能系统进行许可，并要求进行独立的安全审计。最近，上个月，特朗普总统签署了一项行政命令，为高级人工智能模型发布前的审查创建了一个自愿框架。同月，Anthropic的CEO达里奥·阿莫迪也警告，AI正在变得过于强大，需要类似于联邦航空管理局（FAA）的安全规则。

哈萨比斯认为，在AGI真正到来之前，世界建立通用标准的窗口期是有限的。“未来尚未书写，我们必须在通用人工智能到来之前，利用这个宝贵的窗口来塑造这项技术，造福全人类。我们现在共同做的事情，将决定下一阶段的文明如何展开。通过安全地管理通用人工智能进入世界，我们可以进入科学发现和进步的新黄金时代，并迎来人类令人难以置信的繁荣的光明未来。”