清华刘嘉教授10个观点：AGI与人类未来全解析

为什么值得你花时间了解刘嘉老师的观点？

免费影视、动漫、音乐、游戏、小说资源长期稳定更新！ 👉 点此立即查看 👈

刘嘉教授是清华大学心理与认知科学系主任、清华大学基础科学讲席教授，同时担任智源人工智能研究院首席科学家。

与深度学习之父Geoffrey Hinton相似，刘嘉教授在心理学、脑科学与人工智能交汇的领域深耕已久。他在混沌大学多次授课，无论是底层逻辑的剖析、系统性知识架构的搭建，还是跨学科的认知视角与生动表达，都让每次课堂充满新知与启发。

刘嘉老师这样说道：“当前我们正经历一个人生模式转换的历史时刻，这不仅是一个软件给你带来便利，更是让你感受到文明的更迭，并成为其中一部分的动力所在。”

01

人类王冠上的最后一颗明珠，我们最后的尊严便凝聚在这一领域——也就是我们称之为AGI的所在。它的表现形式其实极为朴素：与朋友聊天、带家人去海边游玩、开车四处兜风等等，这些看似平凡无奇的日常活动，恰恰具备两个非凡特质。

第一个特点是“任务的切换”。例如与同事开会时采用的沟通策略与带家人旅游时所运用的思维框架完全不同，所以说策略需要动态调整。

第二个特点是“环境”。当你在星巴克品尝咖啡与在足球场驰骋时，所处的环境也是截然不同的。

这就是AGI所触及的领域——在开放环境中的动态策略。

02

让我们梳理AGI的演进脉络：

第一阶段，以ChatGPT为代表的大语言模型，我们提问，它给出答案，然后由我们执行；

第二阶段，以ChatGPT为代表的大语言模型结合自主智能体，我们不仅能提问，还能让它执行任务；

第三阶段，以ChatGPT为代表的大语言模型结合生成式智能体，我们不再具体告诉它做什么，而是告知我们的目标。

03

自主代理（Autonomous Agency）与传统AI有着本质区别。它通过分析感知数据，进行独立思考，然后调用工具来实现对通用问题的自动化处理。简单来说，就是为我们的ChatGPT或GPT4等系统配备感知和行动能力，使其成为一个完整的个体——不仅拥有大脑，更具备行动能力。

这意味着，我们AGI的运作模式从“提出问题、获取答案、然后行动”的ChatGPT模式，转变为了“不仅能提问，还能执行任务”的ChatGPT与自主智能体的结合。

举个简单的例子。当有人要出门，询问今天是否下雨时，ChatGPT的感知系统听到这句话后，就会上网搜索今天的天气预报，并根据它的历史知识来规划应该携带什么样的雨具。最终它的判断是今天会有中雨，应该准备一把伞，然后通过动作系统向主人发送指令，把伞送到主人手中。

我们只需表达一个需求，它就会帮我们完成剩下的所有事情——这正是我们当前所说的AGI所展现的“先思而后行”。

04

我认为一个真正的智能体（代理/智能实体）不再需要被告知具体要做什么，而是被告知一个目标。这就是下一代智能体，我称之为“生成式智能体”（Generative Agents）。

生成式智能体不仅能够自主完成任务，更是具备欲望、信念、意图以及采取行动能力的智能实体。

它应该具备哪些特点？我们可以从三个维度来理解：

1、它需要掌握多种技能。

2、它能够应对各种复杂情况。

3、它必须与世界产生真实的互动。

05

换句话说，作为一个智能体，它需要具备技能、与现实交互的能力，以及具身智能（Embodiment）。

在个体产生后，我们需要实现智能体之间的交互、智能体与人类之间的互动。可以通过构建虚拟场景，在其中放置机器人，也可以将真实的人放进场景，通过AR、VR技术实现互动，从而形成一个群体智能。

这时会产生一个问题：当群体智能形成时，大家既有合作、也有争吵、更有竞争，这时就会产生复杂的博弈。在复杂的博弈中会产生一个非常重要的概念——“自我”。当你一个人的时候，你不需要“我”这个概念，因为我就是一切；但是当你站在一群人中间的时候，一定要分清自己和其他人是不一样的。

产生“自我”概念后，就会出现意识。这样我们就进入了一个全新的智能阶段。

06

如果说ChatGPT只是让我们看到了AGI的一丝火花，让我们在黑暗中瞥见黎明的曙光；

那么生成式智能体的加持则将AGI从第二阶段的领域模型推向第三阶段的认知模型——这才是真正的AGI。

让我们看一下智能的三个层次模型：

第一个层次，我们称之为任务模型，它能够完成特定的任务，就像人脸识别、文字识别这类任务特异的AI。

第二个层次，叫做领域模型，它能够完成某个特定领域的工作，比如说教师。

第三个层次，认知模型。说起来很简单，认知模型就是能看、能听、能思考、能规划，也就是说，当它真正实现类人化时，这才是真正的AGI。

07

我们即将创造出与人类相似的全新物种，它将不再停留在计算机机房中，而是出现在你散步的大街上。

这时候我们希望它具备什么样的能力呢？

我特别喜欢一幅图：西班牙斗牛场上，感到身体不适的斗牛士靠在场边，第一个赶来救助他的，是浑身插满了剑的这头牛。这头牛没有攻击，而是默默地看着他。这时候我们能看到一种感性的成分，一种善良的成分在里面，而这种善良的成分必须要通过另外一种途径来做到，怎么做到呢？

我们先来看如何构建一个人。

在人的大脑里，最底层的脑干是呼吸的中枢，往上面走是小脑，他是让我们能够行走的一部分；再往上面走是丘脑，它能够感知外界；再往上则是边缘系统，它能产生情绪、情感，作出一些简单的判断。

最上面则是在过去300万年里人类进化明显的地方——大脑皮层，它的体积增加了3倍，与人类的自由意志、复杂判断和符号思维有关。上面这部分我们把它称为理性，下面这部分我们称为感性。

08

现在的大语言模型学习到的正是人类的理性，但它并没有触及人类的感性。

现在我们仅拥有科学的尺度，却没有情感的溫度。因此，接下来的工作是让大模型获得情感的溫度。

感性具备两个特征：

第一个特征是“身临”。我相信，就算我们看了很多旅游风光片、纪录片，仍然想要亲自去到那个地方，因为只有身临其境，才会有真实的感受。

第二个特征是“体验”。如果你假设你身处金门大桥却脑袋里充斥着工作内容，是不会产生强烈的体验感的，因此只有沉浸其中，才会产生感性。

正如出身中产阶级的切·格瓦拉只有在独自骑行、经历寒冷的夜晚之时，才会说出“那是我经历过的最冷的一晚，但那一晚也让我稍稍靠近了人类。”

与此类比，现在的大语言模型满腹经纶，但还仅仅停留在机房里面，它没有真正迈入世界。

09

而一旦智能体拥有意识之后，它就会按照自我的观念快速发展，这时我们可能就会面临一个奇点——文明不再以人为单位运行，而是以AGI的方式运行。

因此，我把这个奇点来临的时刻称为“人类历史上的第二次认知革命”。

我们经常谈到认知革命，其实它们都不相称。为什么？因为第一次认知革命使得我们的祖先成为了万物之灵，人类成为世界的主宰。而第二次认知革命，就是人类创造出一个全新的物种。

这天来临的时刻，文明的火炬就要由我们人类传到AGI的手中。

10

在我们都可预见的未来，AGI会超越人类的智能，而且是永远的超越。

当然这也带来一个很大的问题，我们将面临一个新物种的挑战，可能会带来世界的毁灭，我们必须像对待疾病一样来应对这些事情。

那么对于我们而言，未来该怎么办？

有三种可能：

第一，自主代理特别友好，让干什么就干什么，不知疲劳，就像《星球大战》中的R2-D2一样，可以交付给它的任务；

第二，人机合一是最好的结局，在座各位都有脆弱的身躯，我们可以把思想、记忆、情感上传到数字大脑里面，由此获得永生；

第三，AI可能会把我们干掉，就像我们把尼安德特人干掉一样。

无论是R2-D2，无论是永生还是人类最终的消亡，这与大家都有密切的关系，值得每个人去思考，不仅包含商业的机会，还包含人类的未来。

我特别喜欢Sam Altman那句话：世界将发生翻天覆地的变化。我们正处于剧变的开端——人类有一个难能可贵的机会去打造未来。