物理信息神经网络中的迁移学习:全微调、轻量级微调与低秩适应
机器学习
2025-02-04 v1
摘要
用于偏微分方程的人工智能已引起广泛关注,尤其是物理信息神经网络(PINNs)。然而,PINNs 通常仅限于求解特定问题,问题条件的任何变化都需要重新训练。因此,我们探索了迁移学习在强形式和能量形式 PINNs 中跨不同边界条件、材料和几何形状的泛化能力。我们采用的迁移学习方法包括全微调、轻量级微调和低秩适应(LoRA)。结果表明,全微调和 LoRA 能显著提高收敛速度,同时略微提升精度。
引用
@article{arxiv.2502.00782,
title = {Transfer Learning in Physics-Informed Neural Networks: Full Fine-Tuning, Lightweight Fine-Tuning, and Low-Rank Adaptation},
author = {Yizheng Wang and Jinshuai Bai and Mohammad Sadegh Eshaghi and Cosmin Anitescu and Xiaoying Zhuang and Timon Rabczuk and Yinghua Liu},
journal= {arXiv preprint arXiv:2502.00782},
year = {2025}
}