用于求解微分方程的低秩自适应物理感知 HyperDeepONets
机器学习
2025-07-25 v1 数值分析
数值分析
摘要
HyperDeepONets 由 Lee、Cho 和 Hwang 在 ICLR 2023 提出作为算子学习的另一种架构，其中一个超网络生成 DeepONet 主干网络的权重。虽然这提高了表达性，但由于大量输出参数的需求，导致高内存和计算成本。本文在物理感知机器学习环境中引入一种变体，即 PI-LoRA-HyperDeepONets，利用低秩适应 (LoRA) 来通过将超网络输出层权矩阵分解为两个较小的低秩矩阵来降低复杂度。这减少了可训练参数的数量，同时为主干网络权重引入额外的正则化。通过在普通微分方程和偏微分方程上的大量实验，我们展示了 PI-LoRA-HyperDeepONets 在预测精度和泛化能力方面均优于常规 HyperDeepONets，可实现最高 70% 的参数降低。
引用
@article{arxiv.2507.18346,
title = {Low-rank adaptive physics-informed HyperDeepONets for solving differential equations},
author = {Etienne Zeudong and Elsa Cardoso-Bihlo and Alex Bihlo},
journal= {arXiv preprint arXiv:2507.18346},
year = {2025}
}
备注
14 pages, 6 figures, 5 tables