还记得高数中的「斯托克斯公式」吗？用深度学习在傅里叶空间中求解可提速1000倍

来自公众号：新智元

来源：外媒
编辑：QJP
【导读】近日加州理工学院的研究人员推出一种用于解决偏微分方程（PDE）的全新深度学习技术，通过直接在傅立叶空间中对积分内核进行参数化，制定了一种新的神经元运算符，比传统的数学公式快 1000 倍，这将减轻对超级计算机的依赖，并提高为更大问题建模的计算能力。
这项新技术比以前开发的深度学习方法精确得多，也具有更广泛的通用性，无需重新训练即可求解整个 PDE 系列（例如适用于任何类型流体的 Navier-Stokes 方程）。
除非你是一个物理学家或者算法工程师，否则你没有太多理由去了解偏微分方程。很多人在本科学习的时候，花了多年时间钻研它们也没有弄懂，而毕业后也再也用不到了。
但是偏微分方程（PDE）也是一种神奇的东西。它们是一类数学方程，非常擅长描述空间和时间上的变化，因此非常方便地描述我们宇宙中的物理现象。
它们可以用来模拟从行星轨道到板块构造到扰乱飞行的空气湍流的一切事物，这反过来又允许我们做一些实际的事情，比如预测地震活动和设计安全的飞机。
问题是偏微分方程是出了名的难解。

以纳维-斯托克斯公式方程为例个方程

在这里，「解决」的含义可能最好地通过一个例子来说明。假设你正试图模拟空气湍流来测试一种新的飞机设计。有一种已知的偏微分方程叫做「Navier-Stokes」，用来描述任何流体的运动。
求解Navier-Stokes问题可以让你在任何时间点拍摄空气运动的快照(也就是风的状况) ，并且模拟空气将如何继续运动，或者它以前是如何运动的。
这些计算是高度复杂和计算量巨大的，这也就是为什么使用大量偏微分方程的学科常常依赖于超级计算机来做数学。
同时这也是为什么人工智能领域对这些方程式特别感兴趣：「如果可以用深度学习来加速解决这些问题的过程，它可以为科学探究和工程学做很多好事」。
现在，加州理工学院的研究人员引入了一种新的深度学习技术来解决偏微分方程，这种技术比之前开发的深度学习方法要精确得多。
它还具有更广泛的适用性，能够解决整个偏微分方程家族的问题，例如求解任何类型的流体的Navier-Stokes方程而无需再训练。
最后，它比传统的数学公式快1000倍，这将减轻我们对超级计算机的依赖，并增加我们的计算能力，以模拟更大的问题。
在下面的 gif 图中，你可以看到一个令人印象深刻的演示。
第一列显示了流体运动的两个快照; 第二列显示了流体在现实生活中如何继续运动; 第三列显示了神经网络如何预测流体的运动，它看起来基本上和第二个几乎一样。
这篇论文引起了不小的轰动，甚至说唱歌手MC HAMMER也转发了这篇文章。

工作原理

函数拟合
首先要理解的是，神经网络本质上基本上是一个函数逼近器，用来逼近任意函数。
当它在一个由成对输入和输出组成的数据集上进行训练时，实际上是在计算将一种形式转换到另一种形式的函数或一系列数学运算。
例如猫的分类器就是输入大量猫的图像和非猫的东西 ，并分别给每一组标上1或0。然后，神经网络寻找最佳函数，将猫的每张图像转换为1，其他所有图像转换为0。
方便的是，这个函数逼近的过程正是我们解决偏微分方程所需要的。我们最终试图找到一个最能描述空气粒子在物理空间和时间上运动的函数。
这就是这篇论文的关键所在，神经网络通常被训练成在欧几里德空间中定义的输入和输出之间近似函数。但这一次，研究人员决定在傅里叶空间中定义输入和输出，而傅里叶空间是一种特殊类型的波频图。
研究人员从其他领域的研究中得出的直觉是，类似空气运动的东西实际上可以被描述为波频的组合，在宏观层面上，风的总体方向就像一个低频率的非常长的波浪，而在微观层面上形成的小漩涡就像高频率的、非常短的和迅速的漩涡。
为什么这很重要？因为在傅里叶空间中近似傅里叶函数，要比在欧几里德空间中近似偏微分方程要容易得多，这大大简化了神经网络的工作。
除了在计算速度上远超传统方法，他们的技术还实现了比以往的深度学习方法解决Navier-Stokes方程降低30% 的错误率。
研究人员的实验证实了这一点。虽然他们还没有尝试将这个方法推广到其他例子中，但是在求解与地震活动相关的偏微分方程时，它应该能够处理每一种地球成分，或者在求解与热导率相关的偏微分方程时，能够处理每一种材料类型。
超级模拟
教授和他的博士生做这项研究不仅仅是为了理论上的乐趣，更是想把人工智能带到更多的科学分支。
正是通过与气候科学、地震学和材料科学领域的各种合作者的交谈，Anandkumar 第一次决定与她的同事和学生一起解决 PDE 的挑战。他们现在正与加州理工学院和劳伦斯伯克利国家实验室的其他研究人员一起将他们的方法付诸实践。
Anandkumar 特别感兴趣的一个研究课题是:「气候变化」。
Navier-Stokes 不仅擅长模拟空气湍流，它还用于模拟天气模式。「在全球范围内进行准确、细致的天气预报是一个非常具有挑战性的问题，」她说，「即使在最大的超级计算机上，我们今天也不能在全球范围内做到这一点。因此，如果我们能够利用这些方法来加快整个 Pipeline 的运行速度，将会产生巨大的影响」。
参考链接：
https://www.technologyreview.com/2020/10/30/1011435/ai-fourier-neural-network-cracks-navier-stokes-and-partial-differential-equations/
程序员数学之美

程序员数学学习

锻炼数学逻辑思维

赞 (0)

相关推荐