基于辅助变量的分层深度学习模型用于偏微分方程
机器学习
2025-07-18 v1
摘要
本文提出了一种新的优化框架，即分层（LySep）模型，以提高基于深度学习的偏微分方程求解方法的性能。由于深度学习损失函数高度非凸，现有优化算法常在亚最优局部极小值处收敛，或遭受梯度爆炸或消失，导致性能不佳。为此，我们引入辅助变量以分离深度神经网络的层级。具体而言，以辅助变量表示每个层的输出及其导数，有效地将深度架构分解为一系列浅层架构。建立了包含辅助变量的新损失函数，其中仅来自相邻两层的变量相互耦合。相应地，开发了基于交替方向的方法的算法，其中许多变量可以闭式形式最优更新。此外，我们提供了理论分析，表明 LySep 模型与原始深度模型之间的一致性。高维数值结果验证了我们的理论，并证明了 LySep 在最小化损失和减少解误差方面的优势。
引用
@article{arxiv.2507.12766,
title = {Layer Separation Deep Learning Model with Auxiliary Variables for Partial Differential Equations},
author = {Yaru Liu and Yiqi Gu},
journal= {arXiv preprint arXiv:2507.12766},
year = {2025}
}