利用 Fourier 神经算子简化海洋动力学建模：一种多目标超参数与架构优化方法
机器学习
2024-04-11 v2 大气与海洋物理
机器学习
摘要
训练有效的深度学习模型以学习海洋过程涉及对各种超参数的谨慎选择。我们利用 DeepHyper（一种可扩展的超参数优化软件）中的先进搜索算法进行多目标优化，以简化为海洋建模量身定制的神经网络的开发。重点是优化 Fourier 神经算子（FNO），这是一种能够模拟复杂海洋行为的数据驱动模型。选择正确的模型和调整超参数是一项具有挑战性的任务，需要付出大量努力以确保模型准确性。DeepHyper 允许高效探索与数据预处理相关的超参数、FNO 架构相关超参数以及各种模型训练策略。我们旨在获得一组最优超参数，从而得到性能最佳的模型。此外，在模型训练常用的均方误差之上，我们提出采用负异常相关系数作为附加损失项以提高模型性能，并研究这两个项之间潜在的权衡。实验结果表明，最优超参数集在单步预测中提升了模型性能，并在长达 30 天的长期预测自回归展开中大幅超越了基线配置。利用 DeepHyper，我们展示了一种增强 FNO 在海洋动力学预测中应用的方法，提供了一种具有更高精度的可扩展解决方案。
引用
@article{arxiv.2404.05768,
title = {Streamlining Ocean Dynamics Modeling with Fourier Neural Operators: A Multiobjective Hyperparameter and Architecture Optimization Approach},
author = {Yixuan Sun and Ololade Sowunmi and Romain Egele and Sri Hari Krishna Narayanan and Luke Van Roekel and Prasanna Balaprakash},
journal= {arXiv preprint arXiv:2404.05768},
year = {2024}
}