乔治霍茨警告AI编程智能体或成软件安全最大隐患

最近，编程圈里一则来自“神奇小子”乔治·霍茨的警告，激起了不小的波澜。这位以破解iPhone和PlayStation 3闻名、如今是自动驾驶公司Comma.ai创始人的技术极客，在5月24日发表了一篇博文，提出了一个颇为尖锐的观点：在当前的软件开发流程中，过度依赖AI编程智能体，可能会成为代价最高昂的错误之一。

乔治·霍茨，图源：WikiMedia

这个判断并非空xue来风。霍茨透露，他花了六个月时间，密集测试了多种主流AI模型和编程工具，并结合了他在开源项目tinygrad上的实践经验。他的结论是，这些工具确实在快速构建原型、提供初步思路上表现出色，但一旦涉及到决定代码质量的细节、边界条件和深层逻辑时，就显得力不从心。

霍茨的核心担忧在于，大型组织可能会对这种“高效”产生依赖。AI模型生成代码的速度令人惊叹，产出的代码从表面上看也越来越规整、专业。但问题恰恰藏在这份“规整”之下——代码的逻辑缺陷、潜在漏洞变得更为隐蔽，更难被一眼识别。

这对于经验尚浅的开发者来说，尤其危险。他们可能难以穿透AI生成的“完美”外壳，发现内在的问题，最终导致有缺陷的代码被集成到正式系统中。长此以往，技术债务将悄然累积，带来高昂的维护成本，以及那些难以追踪、却可能引发严重故障的隐患。

值得注意的是，霍茨本人的立场已经发生了明显转变。他从早期的技术乐观主义者，转向了更为审慎甚至怀疑的态度。如今，他的观点更接近杨立昆和加里·马库斯的阵营，即认为当前的大语言模型并不具备真正的“智能”。

在他看来，这些模型本质上是极其复杂的统计系统，核心能力是模仿海量训练数据中的编程模式分布，而非真正理解问题背后的逻辑与需求。因此，它们可以完美地模仿出代码的“外形”，却未必能在陌生的、需要深度推理和创造性修正的场景下稳定发挥。

与霍茨的警告形成有趣对比的，是安德烈·卡帕西近期的态度转变。这位AI领域的知名人物曾在2025年秋天对智能体系统的可靠性表示怀疑。然而，在GPT-5.4和Opus 4.6等更强大的模型发布后，他改变了看法，公开表示AI智能体已经“永久地改变了编程的方式”。

一边是资深黑客基于实践发出的风险预警，另一边是研究者对技术进步的积极肯定。这场争论或许没有简单的对错，但它清晰地指向了一个核心议题：在拥抱AI编程效率的同时，我们该如何建立新的质量护栏与审查机制，避免将便捷变为隐患？这可能是所有开发团队接下来必须认真思考的问题。