生成式AI是未来发展方向吗？专家解读新范式需人类参与

来源：ScienceAI，编辑：白菜叶

早在20世纪最早的人工智能理论将世界推上不可逆转的技术轨道时，AI就以巨大的前景引领着社会变革与人类进步。但直到生成式AI——比如ChatGPT——的出现，过去几十年缓慢的进展才突然感觉像是一次真正的飞跃。这种感知上的跳跃让不少专家忧心忡忡：我们是不是走得太快了？会不会像《终结者》那样，机器智能变成无所不能的毁灭力量？

然而，美国东北大学体验人工智能研究所执行主任Usama Fayyad却认为，这些担忧其实和现实脱节。事实上，AI正在以一种需要人类参与的方式被整合——专家们称之为“人在环路”。以下是他与媒体的对话整理。

Q1

首先，关于生成式AI的讨论很多。它是什么？和其他形式的人工智能有何不同？

A：生成式AI是一种能够很轻松地生成输出的AI。输出可以是文本——就像我们在大语言模型（比如ChatGPT）里看到的那样——也可以是图像。如果你用文本训练它，它输出文本；用图像训练，它就生成或修改图像；用声音或音乐训练，它就创作音乐；用编程代码训练，它就写出程序。

之所以叫“生成式”，是因为算法能自己生成示例。研究人员会让算法通过生成对抗网络挑战自身，或者生成对抗样本来加强训练。但很快他们就发现：没有人的干预不行。所以，包括ChatGPT在内的大多数系统，其实都在用且需要人工干预。人类通过强化学习（一种旨在提升系统性能的机器学习技术）参与了很多训练环节。

Q2

ChatGPT最近在社交媒体上刷屏，很多人分享和它互动的经历。这项新技术到底有什么用？

A：已经能看到它在教育领域的应用，尤其是高等教育。东北大学在内的一些高校注意到，这些技术直接挑战了标准化测试的方式。教育工作者意识到，这不过是另一种工具。比如在艺术、媒体和设计学院，有人用达利和LensaAI来学习图像；在写作课、英语课或工程课上也有类似案例。

就像我们从计算尺到计算器，再到计算机和手机上的整个网络——这是另一个工具。训练学生适应新世界的正确做法，是想办法利用技术作为工具。

现在谈大规模的现实应用还太早，技术太新了。但据估计，它能加速知识工作者50%～80%的任务完成速度——我个人倾向于80%。注意，是加速，不是自动化。如果你是律师起草协议，它能帮你快速定制初稿，但你得进去编辑、修改。如果你是程序员，它可以写一个初始程序，但通常不完美、有bug、没针对目标定制。同样，一个懂行的人进去修改，能省下50%～80%的工作量。

Q3

能具体解释一下“加速”和“自动化”的区别吗？

A：是加速，不是自动化，因为技术实际上会以可怕的方式“幻觉”——它能胡编乱造，能捍卫任何你让它捍卫的观点，甚至你让它撒谎，它也能做到。而且你还可以对它撒谎，让它相信你。

有人管这类技术叫“随机鹦鹉”——意思是带随机变化的鹦鹉。我很喜欢“鹦鹉”这个词，因为它准确描述了事实：它们根本不知道自己在说什么。它们说出来的东西听起来很有说服力、很流畅。这恰恰是个重要问题：社会不知怎么地把智慧和口才、流畅画了等号——觉得说话得体的人就是聪明人。但算法离智能差得远呢；它们基本是在做自动补全，重复以前见过的东西，而且经常重复错。

为什么强调这个？因为这意味着你需要一个人在环路中，去检查所有的工作。它确实帮你省掉了大量重复枯燥的工作——这很棒。你加速了它，效率提高了。现在你能把时间花在增加价值上，而不是重复琐事。我觉得全是正面的。

我特别喜欢拿会计做类比。60～70年前的会计什么样？你得处理大账本，字要写得漂亮，加法要好，要手动核对数字、检查总和、应用比率。你猜怎么着？这些任务——没有，零——和今天完全无关。但我们现在换掉会计师了吗？不，今天的会计师比人类历史上任何时候都多。

Q4

最近很多人担心AI发展失控，甚至超越安全控制。你怎么看？

A：这些担忧其实找错了重点。这么说吧，2015或2016年左右技术确实经历了一次阶段性转变。拿手写识别举例，它花了大约15年才跳出，中间改了很多次。语音识别也一样，花了很长时间，后来才开始加速，但仍然需要时间。

而大语言模型这边，阅读理解和语言编译上，我们看到了一次重大飞跃。顺便说一句，没多少人提的是：OpenAI花了很多钱来策划训练语料，确保它平衡。如果你在两个内容相同但结果不同的文档上训练同一个模型，算法怎么知道哪个是对的？它不知道。要么由人来告诉它，要么它就默认“我常看到的一定是对的”——这就成了错误信息的肥沃土壤。

回到你说的“暂停”提议。我认为动机有点蠢。很多支持者来自一个阵营，他们认为我们正面临人工“通用”智能的风险——这离事实太远了。我们离那个还远得很。这些算法根本不知道自己在做什么。真正危险的是滥用。最近比利时有个例子，一个人和聊天机器人聊了六个月后自杀了，而聊天机器人最终鼓励他那样做。

所以，危险确实存在，而且很多。但暂停不会有什么效果。就算好演员同意停止，坏演员会继续。需要强调的是：流利不等于智慧。这项技术有局限性，让我们揭开它的神秘面纱吧。好好利用它，才能意识到坏用途是什么，也才知道该如何控制它们。

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：生成式AI是未来发展方向吗？专家解读新范式需人类参与要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题