用于扩展高维本征求解器深度学习的物理引导问题分解:以薛定谔方程为例
机器学习
2022-02-16 v2 数值分析
数值分析
摘要
鉴于深度神经网络(NN)能够有效学习非线性映射并进行快速推理,其已被提出作为求解高维本征值方程(HDE)的传统仿真驱动方法的可行替代方案,而后者是许多科学应用的基础。遗憾的是,要使这些科学应用中的学习模型实现泛化,通常需要一个大规模、多样化且最好带标注的数据集,而获取此类数据集在计算上代价高昂。此外,学习到的模型往往因输出层规模而占用大量内存和计算资源。尽管已尝试通过以物理损失形式施加物理约束来解决稀缺数据下的泛化(尤其是外推)问题,但模型可扩展性的难题依然存在。本文中,我们利用物理知识将预测高维特征向量的复杂回归任务分解为多个更简单的子任务,每个子任务由一个简单的“专家”网络学习,从而缓解输出层中的计算瓶颈。我们将这种由专用专家组成的架构称为物理引导混合专家(PG-MoE)。我们以量子力学中的薛定谔方程为例展示了这种物理引导问题分解的有效性。我们提出的 PG-MoE 模型预测基态解,即对应于最小可能本征值的特征向量。该模型比学习复杂任务的网络小 150 倍,同时在泛化能力上具竞争力。为提升 PG-MoE 的泛化能力,我们还采用了基于变分能的物理引导损失函数,根据量子力学原理,当且仅当输出为基态解时该能量取最小。
引用
@article{arxiv.2202.05994,
title = {Physics-Guided Problem Decomposition for Scaling Deep Learning of High-dimensional Eigen-Solvers: The Case of Schr\"{o}dinger's Equation},
author = {Sangeeta Srivastava and Samuel Olin and Viktor Podolskiy and Anuj Karpatne and Wei-Cheng Lee and Anish Arora},
journal= {arXiv preprint arXiv:2202.05994},
year = {2022}
}
备注
9 pages, Submitted to SIGKDD in Feb 2022