年前的数学揭秘AI的神秘黑匣子

神经网络（Neural Networks）在当今科技领域无处不在——从设计微芯片到构建新蛋白质，从预测气候到模拟湍流。然而，这些由大脑启发的人工智能系统却长期被视为一个“神秘的黑匣子”：它们能给出精准结果，却无法解释自己是如何得出这些结论的。如今，一项新研究发现，一种已有200年历史的数学方法——傅里叶分析（Fourier analysis）——或许能帮助我们揭开这个黑匣子的秘密，从而提升神经网络的准确性和学习速度。

一、核心概念：什么是神经网络与傅里叶分析？

1. 神经网络的工作原理

在人工神经网络中，被称为“神经元”的基本部件（类似于人脑中的神经元）通过数据和协作来解决问题，例如识别人脸。如果神经网络拥有多层神经元，则称之为“深层”神经网络。通常，每个模型包含大约100万个参数，这些参数是神经元之间的连接权值，就像乘数一样在计算过程中调整方程中的特定运算。这些参数被组织成40000个五乘五矩阵，称为“内核”。

2. 傅里叶分析的作用

傅里叶分析是一种用于识别数据在空间和时间上规则模式的数学技术。它最初由数学家傅里叶在200年前提出，后来衍生出多种工具，如：

• 低通滤波器：筛选背景噪声
• 高通滤波器：帮助分析背景信号
• Gabor滤波器：常用于图像处理

小提示：傅里叶分析在物理学和工程学中已广泛应用多年，但将它用于分析神经网络内部工作却是近年来的创新尝试。

二、研究过程：如何用傅里叶分析打开“黑匣子”？

步骤1：训练深度神经网络

休斯顿莱斯大学的流体动力学专家Pedram Hassanzadeh及其同事，对一个深度神经网络进行了实验。该网络经过训练，可以分析大气或海洋中间出现的复杂湍流，并预测这些湍流随时间的变化。未经训练的神经网络参数通常具有随机值。在训练过程中，随着神经网络逐渐学会计算越来越接近已知结果的解，这些参数会被修改和磨练。训练完成后，研究人员就可以使用经过充分训练的神经网络来分析从未见过的数据。

步骤2：对控制方程进行傅里叶分析

科学家们对深度神经网络的控制方程（即描述网络如何计算输出的数学公式）进行了傅里叶分析。他们检查了所有内核（40000个五乘五矩阵）的频谱特征。多年来，人们一直认为神经网络参数太多、太杂乱，“当我们只是查看其中的一些参数时，它们没有太多意义，而且看起来都不一样”。然而，在对所有这些核进行傅里叶分析后，研究人员发现——这些内核实际上就是各种光谱滤波器！

步骤3：神经网络学会了正确组合滤波器

科学家们多年来一直试图用低通、高通等滤波器来分析气候和湍流，但这些组合在对复杂系统建模时往往并不成功。而神经网络通过学习，自动掌握了正确组合这些滤波器的方法。

常见问题1：为什么傅里叶分析能揭示神经网络的黑匣子？
答：传统上，直接查看数百万个参数毫无意义。傅里叶分析将这些参数转换到频率域，发现它们实际上对应各种滤波器（低通、高通、带通等），而网络通过训练学会了这些滤波器的正确组合方式。这就好比把一堆散乱的音符翻译成了可识别的旋律。

常见问题2：这种方法对所有类型的神经网络都有效吗？
答：Hassanzadeh表示，他们开发了一个通用的框架，可以应用于“任何物理系统和任何神经网络架构”。对于图像分类或神经科学领域的神经网络，该方法也可能有帮助，但具体效果“仍有待研究”。

三、实际应用：提升气候模型与理解复杂系统

1. 混合模型：更快更好的气候预测

许多气候科学家和机器学习专家正在合作开发“神经网络增强气候模型”（即混合模型）。这些模型使用传统的偏微分方程求解器和神经网络一起工作，以达到更快、更好的气候预测效果。傅里叶分析可以帮助科学家为这些目标设计更好的神经网络，并帮助他们更好地理解气候和湍流的基本物理情况。

2. 拓展到其他复杂系统

除了气候和湍流模型，傅里叶分析可能有助于研究被设计用于分析以下复杂系统的神经网络：

• 喷气发动机内的燃烧
• 风电场内的气流
• 许多物质（如等离子体）的行为
• 木星和其他行星的大气层
• 太阳和地球内部的对流

研究人员开发了一个通用框架，以帮助将这种方法应用于“任何物理系统和任何神经网络架构”。

常见问题3：傅里叶分析还能帮助解决神经网络的“可推广性”问题吗？
答：是的。当神经网络被训练用于某一系统后，能否推广到不同系统是一个关键问题。一种称为“转移学习”的方法可以解决这个问题——只重新训练少量关键神经元。传统观点认为最好重新训练最深层（靠近输出）的神经元。但这项新研究表明，对于跨时间和空间数据模式的复杂系统，重新训练最浅层（靠近输入）的神经元可能会得到更好的性能，而重新训练最深层可能完全无效。

四、未来展望与研究细节

Hassanzadeh说，未来研究人员的目标是：确定神经网络如何学习组合各种滤波器以达到最佳结果。这一发现不仅有助于设计更精确的模型（所需训练数据更少），还能帮助科学家深入理解气候、湍流等复杂系统的内在物理规律。

研究论文：2023年1月23日，该研究团队在《PNAS Nexus》杂志上详细介绍了他们的发现。
论文链接：https://academic.oup.com/pnasnexus/article/2/3/pgad015/6998042

小提示：如果你对神经网络的可解释性感兴趣，可以关注“可解释AI（XAI）”领域。傅里叶分析只是众多方法之一，但它特别适合分析物理和工程领域的神经网络。

总之，这项研究证明了傅里叶分析这一古老数学工具在现代AI领域仍然具有强大的生命力。它不仅帮助我们看清神经网络内部的运作方式，还为构建更高效、更可靠的AI系统指明了方向。随着研究的深入，未来我们或许能彻底揭开神经网络的神秘面纱，让AI从“黑匣子”变成透明的“玻璃盒”。

你是一名 AI 行业编辑，请围绕下面这条热点输出一份资讯解读：
热点：年前的数学揭秘AI的神秘黑匣子要求：
1. 先用一句话解释这条热点在讲什么
2. 再总结它为什么重要
3. 说明会影响哪些 AI 产品或内容方向
4. 最后给出 3 个适合资讯站使用的标题