NVIDIA：调制自适应傅里叶神经算子在天气预报时间插值中的应用

调制自适应傅里叶神经算子：用于天气预报的时间插值

ounter(counterh2作者和单位信息

本文的作者包括Jussi Leinonen、Boris Bonev、Thorsten Kurth和Yair Cohen，他们均来自位于加利福尼亚州圣克拉拉的NVIDIA公司。NVIDIA是全球知名的图形处理器和相关技术公司，其在深度学习和人工智能领域的研究同样处于前沿地位。

ounter(counterh2研究背景

随着对气候变化的关注日益增加，对气候和天气数据的需求以及对更准确预测的需求也在增长。这些数据不仅对气象服务至关重要，还被保险、投资、能源、交通、基础设施管理和紧急响应等多个行业所使用。随着对高分辨率、定制数据产品和概率预测的需求增加，大气数据存储需求也在迅速增长，最大的数据档案接近艾字节大小。这些数据量只有最大的数据中心才能管理，即便如此，也需要巨大的成本。

ounter(counterh2研究意义

机器学习（ML）在天气预测模型中的应用已经显示出与最先进的数值天气预报（NWP）模型相当的技能，同时在制作预测时所需的时间、能源和金钱要少得多。ML天气模型使得避免长期存储模拟结果成为可能，而是按需执行预测，从而大幅降低数据存储成本。然而，大多数ML预测模型执行的是长时间步长，例如GraphCast和FourCastNet的6小时步长，这可能会在数据中留下空白，尤其是在预测快速演变的极端天气事件时。为了解决这个问题，本文提出了一个插值模型，该模型重建了两个已知时间点之间的大气状态。

ounter(counterh2研究方法和数据

本文提出的模型基于自适应傅里叶神经算子（AFNO），这是一种在天气预测和其他机器学习物理问题中使用过的网络架构。作者引入了一个调制AFNO（ModAFNO）层，该层接受一个嵌入（在本文中是插值目标时间计算的），并应用一个学习到的移位-缩放操作在AFNO层内部，以适应目标时间。这样，一个模型就可以用于产生所有中间时间步骤。

模型的训练使用了来自欧洲中期天气预报中心（ECMWF）的全球ERA5数据集，该数据集提供了1小时时间分辨率的大气历史状态估计。数据集包括压力水平高度、温度、比湿以及东西（u）和南北（v）方向的风速等73个变量，数据跨度为1980年至2017年，总数据量约为95TB。

ounter(counterh2研究结论

通过比较ModAFNO插值模型与线性插值，作者发现ModAFNO模型在预测中间天气状态方面显著优于线性插值。它在极端天气事件（如快速移动的飓风和热浪）方面也显示出比线性插值更好的技能。此外，ModAFNO层是通用的，预计可以应用于其他问题，包括具有可调前导时间的天气预测。

ounter(counterh2不足与讨论

尽管ModAFNO模型在插值方面表现出色，但作者指出，模型似乎只学习了训练数据中找到的目标时间，即仅在整点小时。尝试在半小时时间间隔（例如，从开始的3.5小时）进行推断时，会产生人工制品，使预测无法使用。因此，使模型训练更好地泛化以实现时间连续推断仍然是未来工作的一个挑战。

ounter(counterh2未来工作方向

作者期望ModAFNO和类似解决方案也适用于控制天气预报和气候数据不断增长的数据存储需求的挑战。快速准确的插值使得只存储有限的数据成为可能，使用插值来恢复未存储的中间时间步骤，只需承担少量由于不完美重建而产生的误差。如果模型可以被训练以泛化到任意目标时间步骤，而不仅仅是1小时时间步骤，那么这种能力将特别有吸引力，因为它将能够估计任意时间分辨率的大气状态，这在现在预报等应用中非常有价值。

ModAFNO中的调制概念也可以合理地预期适应类似的网络架构，如球形傅里叶神经算子。此外，它的使用不仅限于插值，作者预计它可以用于训练具有可调前导时间的天气预测模型。用于调整ModAFNO的嵌入也可以从除了前导时间之外的其他上下文中派生，允许构建其他类型的条件网络。

文章通过引入调制自适应傅里叶神经算子（ModAFNO）来改进天气预测模型，使其能够在保持高效率的同时，提供更精细的时间分辨率。这对于快速演变的天气事件的预测尤为重要，同时也为控制不断增长的数据存储需求提供了一种可能的解决方案。尽管模型在训练和泛化方面还存在一些挑战，但其在天气预测领域的应用前景是光明的。

调制AFNO在天气预测中的具体优势是什么？

调制自适应傅里叶神经算子（ModAFNO）在天气预测中的具体优势包括：

1. 提高时间分辨率：ModAFNO能够将已知的6小时步长的天气状态插值到1小时步长，显著提高了预测的时间分辨率，这对于捕捉快速演变的天气事件（如雷暴、飓风）至关重要。

2. 降低误差：与线性插值相比，ModAFNO在重建中间步骤时能够减少大约50%的均方根误差（RMSE），这意味着它能够更准确地预测天气状态。

3. 改善极端天气事件的预测：ModAFNO能够更好地复现飓风和热浪等极端天气事件的统计特性，这对于灾害预警和应急管理非常重要。

4. 单一模型的灵活性：使用ModAFNO，一个模型就可以产生所有中间时间步骤的预测，这与需要训练多个模型来实现不同时间分辨率的预测相比，简化了模型训练和管理过程。

5. 减少数据存储需求：高精度的插值能力意味着可以仅存储有限的数据，并通过插值来恢复未存储的中间时间步骤，这有助于控制数据存储成本。

6. 提高计算效率：ML模型相较于传统的NWP模型在计算效率上有显著提升，ModAFNO继承了这一优势，使得天气预测更加快速和经济。

7. 物理过程的建模：ModAFNO通过学习大气的物理过程，能够产生比简单插值方法更好的预测结果，这对于提高预测的可靠性和准确性至关重要。

8. 模型的泛化能力：ModAFNO层是通用的，这意味着它不仅适用于天气预测，还可以扩展到其他需要时间插值的问题。

9. 可调的前导时间：ModAFNO的设计允许模型根据需要调整预测的前导时间，这为定制化的天气预测服务提供了可能。

10. 减少数据不一致性：由于ModAFNO使用单一模型来处理所有时间步骤，它减少了多模型系统中可能出现的数据不一致性问题。

总的来说，ModAFNO通过结合深度学习和物理过程的知识，提供了一种高效、准确且灵活的天气预测方法，这对于提高天气预测的准确性和应对极端天气事件具有重要意义。

未来ModAFNO在气候模型中的应用前景如何？

ModAFNO（调制自适应傅里叶神经算子）在气候模型中的应用前景是非常广阔的。以下是一些潜在的应用领域和前景：

1. 提高气候模型的分辨率：ModAFNO能够将低时间分辨率的气候数据插值到高时间分辨率，这对于提高气候模型的输出分辨率和细节至关重要。

2. 优化数据存储和管理：通过仅存储关键时间点的数据，并使用ModAFNO插值来恢复中间步骤，可以显著减少气候模型所需的数据存储空间，降低管理成本。

3. 增强极端天气事件的预测能力：ModAFNO在极端天气事件预测中展现出了优势，未来可以进一步集成到气候模型中，以提高对极端天气事件的预测精度和响应速度。

4. 提高气候模型的计算效率：由于ModAFNO基于深度学习，它可以提供比传统气候模型更快的计算速度，这对于需要大量计算资源的气候模拟尤为重要。

5. 改善气候模型的物理过程表示：ModAFNO能够学习大气的物理过程，这有助于改进气候模型对复杂物理过程的表示，提高模型的准确性和可靠性。

6. 支持气候适应性和缓解策略：通过提供更精确的气候预测，ModAFNO可以帮助制定更有效的气候适应性和缓解策略，减少气候变化的影响。

7. 增强气候模型的泛化能力：ModAFNO的调制特性使其能够适应不同的时间步长和条件，这有助于提高气候模型在不同气候条件下的泛化能力。

8. 集成多源数据：ModAFNO可以集成来自不同来源和分辨率的数据，提高气候模型对多源数据的融合和利用能力。

9. 支持实时气候监测和预报：ModAFNO的快速插值能力使其适用于实时气候监测和短期预报，这对于快速响应气候变化和极端天气事件至关重要。

10. 促进气候科学的进步：ModAFNO可以作为研究工具，帮助科学家更好地理解和模拟气候系统的行为，推动气候科学的发展。

11. 支持气候政策制定：通过提供更准确的气候预测，ModAFNO可以帮助政策制定者制定基于科学证据的气候政策。

12. 跨学科应用：ModAFNO的技术和方法可以与其他领域（如海洋学、生态学）结合，为跨学科的气候研究提供支持。

总的来说，ModAFNO在气候模型中的应用前景是非常乐观的，它有潜力显著提高气候预测的准确性、效率和灵活性，为应对气候变化提供强有力的工具。随着深度学习技术的不断发展，ModAFNO及其衍生技术有望在未来的气候科学和天气预报中发挥更大的作用。

声明：本公众号分享的资源均来自于互联网的公开资源，仅供个人学习和研究使用，不代表本人对其版权、真实性、合法性、准确性等方面做出任何保证。任何使用本号分享的资源的个人或组织，需自行承担相应的法律责任和后果；本号不承担任何法律责任和连带责任。使用本号分享的资源即代表您已完全了解并同意本免责声明的所有内容。