基于多任务深度算子网络的协同学习在高效求解偏微分方程中的应用
机器学习
2025-01-13 v1
摘要
多任务学习（MTL）是一种归纳迁移机制，旨在通过利用多个任务提供的有用信息来提高相对于单任务学习的泛化性能。在传统机器学习中，该方法已被广泛探索，以解决神经网络数据稀疏和过拟合等问题。本文将MTL应用于由偏微分方程（PDE） govern的科学与工程问题。然而，在此背景下实现MTL较为复杂，因为需要针对各种不同物理过程的场景进行任务特定的修改。为此，我们提出了一种多任务深度算子网络（MT-DeepONet），用于在单一并行训练期间学习源项在PDE中各种函数形式以及多个几何形状的解。我们对原始DeepONet的分支网络进行修改，以适应PDE中参数化系数的各种函数形式。此外，针对参数化几何，我们在分支网络中引入二进制掩码，并将其纳入损失项以提高对新几何任务的收敛性和泛化性。我们的方法在三个基准问题上进行演示：（1）学习Fisher方程中不同源项函数形式；（2）学习2D Darcy流问题中的多个几何，并展示了对新几何的更好迁移学习能力；（3）学习3D参数化几何的传热问题，展示了在新但相似几何上的预测能力。我们的MT-DeepONet框架在基于协同学习的统一框架下，为工程和科学中的PDE问题求解提供了一种新方法，降低了神经算子的总体训练成本。
引用
@article{arxiv.2408.02198,
title = {Synergistic Learning with Multi-Task DeepONet for Efficient PDE Problem Solving},
author = {Varun Kumar and Somdatta Goswami and Katiana Kontolati and Michael D. Shields and George Em Karniadakis},
journal= {arXiv preprint arXiv:2408.02198},
year = {2025}
}