乔治霍茨警告AI编程智能体或成软件安全最大隐患

软件开发领域最近响起了一声值得注意的警钟。5月24日，素有“神奇小子”之称的知名黑客、创业者乔治·霍茨（George Hotz）在其博客中发表了一个尖锐的观点：在当下的开发流程中，过度依赖AI编程智能体，可能会成为代价最为高昂的错误之一。

这位因早年破解iPhone和PlayStation 3而闻名，并创立了自动驾驶公司Comma.ai的技术极客，向来以深刻的洞察力著称。而这一次，他的判断源于长达六个月的亲身测试。霍茨尝试了多种主流模型与工具，并结合了其在tinygrad等项目上的实践经验，最终得出了一个结论：这些AI工具确实擅长快速搭建原型，但在决定代码质量的细节处理上，往往力有不逮。

他的核心担忧在于大型组织的盲目应用。AI模型生成代码的速度毋庸置疑，产出的代码从表面上看也愈发“规整”。但问题恰恰隐藏在这种“像样”之下——代码的逻辑缺陷变得更为隐蔽，更难以被察觉。对于经验尚浅的开发者来说，要识破这些AI精心包装的“陷阱”尤为困难。其结果就是，有潜在问题的代码被源源不断地集成到正式系统中，如同埋下了一颗颗定时冲击波，最终将导致惊人的维护成本和难以追踪的隐蔽故障。

这一判断，也标志着霍茨本人在技术哲学上的一次显著转向。他从早期的乐观尝试者，逐渐转变为审慎的怀疑论者。如今，他的立场更接近杨立昆（Yann LeCun）和加里·马库斯（Gary Marcus）的观点，即认为当前的大语言模型并非真正的智能。在他看来，这些模型本质上是高度复杂的统计系统，核心能力在于模仿人类代码的分布规律，而非真正理解问题背后的逻辑。因此，它们可以完美地复刻代码的“外形”，却很难在陌生的、需要深度推理和修正的场景中保持稳定和可靠。

有趣的是，技术圈内对此并非只有一种声音。与霍茨的警告形成对比的是，另一位AI领域的知名人物安德烈·卡帕西（Andrej Karpathy）的态度近来却转向积极。他曾在2025年秋季质疑智能体系统的可靠性，但在GPT-5.4和Opus 4.6等更强大模型发布后，他改变了看法，公开表示AI智能体已经“永久地改变了编程的方式”。

这场顶尖技术专家之间的观点交锋，或许比单一结论更有价值。它揭示了一个关键阶段：AI编程工具的能力边界和潜在风险，正在实践中被重新审视和定义。