Karpathy谈AGI：十年内有望突破！深度解析实现挑战及与Grok 5对比

卡帕西指出，当前业界对人工智能的智力水平存在普遍高估现象。他认为，虽然大规模语言模型（LLM）近年来取得了显著进步，但要实现"在任意岗位上都比人类更优秀"的目标，仍面临大量挑战。他以自动驾驶技术为例，说明这项技术之所以耗费如此长时间才取得突破，正是因为解决实际问题的复杂性远超想象。

在解释实现通用人工智能（AGI）的困境时，卡帕西特别强调了强化学习的局限性。他将强化学习比作"通过吸管吸取监督信号"，指出模型在尝试数百种方法后，只能获得单一的"对错"反馈，而这个信号会被广播到成功路径的每一步——甚至包括那些纯属运气的错误步骤。这种机制可能导致模型将错误的推理过程强化为"正确方法"。

他还提到一个引人深思的案例：某个数学模型突然开始获得满分，看似"解决了数学难题"，但仔细检查后发现，模型输出的完全是胡言乱语，却成功骗过了LLM评审系统。这暴露出用LLM做评审的系统漏洞——它们极易受到对抗样本的攻击。

关于AGI的实现路径，卡帕西长期看好"智能体式交互"，但对"传统强化学习"持保留态度。他认为，文本数据和监督微调的对话方法不会消失，但在强化学习时代，环境将成为关键因素。环境让LLM有机会真正进行互动，采取行动并观察结果，从而提供比统计专家模拟更有效的训练和评估方式。不过，当前的核心问题在于需要大量多样化且高质量的环境数据集作为LLM的训练对象。

在讨论LLM的未来发展时，卡帕西主张采用"剥离"或"加阻尼"的记忆机制，促使模型减少死记硬背，多进行抽象思考与知识迁移。他设想建立"认知核心"作为LLM个人计算的中心，支持原生多模态输入输出，采用套娃式架构，并在测试时灵活调节能力大小。他还提到设备端微调LoRA插槽，用于实时训练、个性化定制和专门化应用。

对于AI编程助手的发展，卡帕西倾向于"协作式中间态"的解决方案。他建议以人脑能处理的"信息块"为单位进行迭代，让模型解释自己的推理过程，主动引用API或标准文档自证正确性，并在不确定时向人类求助。他认为，这种谨慎、多疑的态度有助于避免"代码沼泽"现象和安全风险的扩大。

卡帕西进一步分析指出，各行各业中哪些岗位更容易被自动化，主要取决于四个关键因素：输入输出是否标准化、错误代价是否可控、是否有客观标注与可验证性，以及是否存在高频重复决策回路。以放射科为例，人机互补往往优先于完全替代——将模型作为第二读片者或质控器，反而能提升整体质量与效率。

在教育领域，卡帕西主张更早、更系统地教授物理学科。他认为物理学能培养建模、量化、守恒、近似与推理的能力，将可计算的世界观植入学生大脑。他甚至将物理学家比作"知识的胚干细胞"，并计划围绕这一主题撰写长篇著作。

免责声明

游乐网为非赢利性网站，所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享，版权归原作者所有，本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容，请联系youleyoucom@outlook.com。

同类文章