使用带 Grassmann 层的浅层 ReLU 网络进行降阶建模
机器学习
2020-12-21 v1 数值分析
数值分析
摘要
本文提出了一种利用结构化神经网络对方程组进行非线性模型降阶的方法。该神经网络采用“三层”网络形式,其第一层被约束在 Grassmann 流形上且第一激活函数设为恒等映射,而其余部分为一个标准的两层 ReLU 神经网络。Grassmann 层确定输入空间的降基,其余层逼近非线性输入输出系统。训练过程在学习的降基与非线性逼近之间交替进行,并被证明比固定降基仅训练网络更为有效。该方法的另一个好处是,对于位于低维子空间的数据,网络中的参数数量无需很大。我们表明,我们的方法可应用于数据稀缺条件下的科学问题,而这类问题通常并不适合神经网络逼近。示例包括非线性动力系统的降阶建模以及若干航空航天工程问题。
引用
@article{arxiv.2012.09940,
title = {Reduced Order Modeling using Shallow ReLU Networks with Grassmann Layers},
author = {Kayla Bollinger and Hayden Schaeffer},
journal= {arXiv preprint arXiv:2012.09940},
year = {2020}
}
备注
18 pages, 2 Figures