用于物理信息神经网络自适应训练的残差分位数调整
机器学习
2022-12-09 v2 计算物理
摘要
物理信息神经网络（PINN）的自适应训练方法需要专门构建分配给每个训练样本的权重分布。高效寻求这样的最优权重分布并非易事，且大多数现有方法基于近似残差的完整分布或最大值来选择自适应权重。本文中，我们指出训练效率中样本自适应选择的瓶颈在于数值残差尾部分布的行为。因此，我们提出残差分位数调整（RQA）方法，以更好地为每个训练样本选择权重。在初始将权重设为与残差的 次幂成正比后，我们的 RQA 方法将所有高于 分位数（例如 ）的权重重新赋为中值，使权重遵循由残差导出的分位数调整分布。另一方面，这种迭代重加权技术也极易实现。实验结果表明，所提方法在各类偏微分方程（PDE）问题上优于若干自适应方法。
引用
@article{arxiv.2209.05315,
title = {Residual-Quantile Adjustment for Adaptive Training of Physics-informed Neural Network},
author = {Jiayue Han and Zhiqiang Cai and Zhiyou Wu and Xiang Zhou},
journal= {arXiv preprint arXiv:2209.05315},
year = {2022}
}
备注
10 pages,17 figures, 1 table