CoLoRA:用于参数化偏微分方程降阶隐式神经建模的连续低秩自适应
机器学习
2024-07-23 v2 数值分析
数值分析
机器学习
摘要
本工作引入了基于连续低秩自适应的降阶模型,该方法针对给定偏微分方程预训练神经网络,随后在时间上连续自适应调整低秩权重,以快速预测解场在新物理参数和新初始条件下的演化。这种自适应可以是纯数据驱动的,也可以是通过提供 Galerkin 最优逼近的方程驱动变分方法。由于 CoLoRA 在时间上局部逼近解场,权重的秩可以保持较小,这意味着离线阶段仅需少量训练轨迹,因此 CoLoRA 非常适用于数据稀缺场景。使用 CoLoRA 的预测比经典方法快数个数量级,且与其他神经网络方法相比,其准确性和参数效率更高。
引用
@article{arxiv.2402.14646,
title = {CoLoRA: Continuous low-rank adaptation for reduced implicit neural modeling of parameterized partial differential equations},
author = {Jules Berman and Benjamin Peherstorfer},
journal= {arXiv preprint arXiv:2402.14646},
year = {2024}
}