数据驱动参数化中的数据不平衡、不确定性量化与通过迁移学习实现的泛化：来自WACCM中重力波动量传输模拟的经验
大气与海洋物理
2023-11-30 v1
摘要
神经网络（NNs）正日益用于天气和气候模式中的数据驱动亚网格尺度参数化。虽然神经网络是从数据中学习复杂非线性关系的强大工具，但在将其用于参数化时存在若干挑战。其中三个挑战是：1）与学习稀有（通常为大幅值）样本相关的数据不平衡；2）提供精度指示的预测不确定性量化（UQ）；3）对其他气候（例如具有更高辐射强迫的气候）的泛化。在此，我们以基于NN的Whole Atmosphere Community Climate Model（WACCM）物理基重力波（GW）参数化模拟器作为测试用例，考察应对这些挑战的方法之表现。WACCM具有用于地形、对流和锋面驱动重力波的复杂、最先进的参数化。由于许多网格点缺乏对流或地形，对流和地形驱动的重力波存在显著的数据不平衡。我们通过重采样和/或加权损失函数解决数据不平衡，从而成功模拟了所有三种来源的重力波参数化。我们证明三种UQ方法（贝叶斯神经网络、变分自编码器和dropout）提供的集成离散度在测试期间与精度相对应，为神经网络给出不准确预测时提供了判据。最后，我们表明这些神经网络在更暖气候（4XCO2）下精度下降。然而，通过应用迁移学习（例如仅使用来自更暖气候约1%的新数据重新训练一层），泛化精度得到显著改善。本研究的发现为开发可靠且可泛化的数据驱动参数化（包括但不限于重力波的各种过程）提供了见解。
引用
@article{arxiv.2311.17078,
title = {Data Imbalance, Uncertainty Quantification, and Generalization via Transfer Learning in Data-driven Parameterizations: Lessons from the Emulation of Gravity Wave Momentum Transport in WACCM},
author = {Y. Qiang Sun and Hamid A. Pahlavan and Ashesh Chattopadhyay and Pedram Hassanzadeh and Sandro W. Lubis and M. Joan Alexander and Edwin Gerber and Aditi Sheshadri and Yifei Guan},
journal= {arXiv preprint arXiv:2311.17078},
year = {2023}
}