REAct：用于 PINNs 中更好学习与泛化的有理指数激活函数
机器学习
2025-03-11 v1 人工智能
摘要
物理信息神经网络(PINNs)为模拟物理系统提供了一种极具前景的方法。然而，其应用仍受限于优化挑战，这主要由于缺乏能在多种物理系统中良好泛化的激活函数。现有的激活函数通常缺乏这种灵活性与泛化能力。为解决此问题，我们引入了有理指数激活(REAct)，它是 tanh 的一种广义形式，包含四个可学习的形状参数。实验表明，REAct 优于许多标准与基准激活函数，在热问题上取得的 MSE 比 tanh 低三个数量级，并能很好地泛化至更精细的网格以及训练域之外的点。它在函数逼近任务中也表现出色，并改善了逆问题中的抗噪能力，从而在不同噪声水平下实现了更准确的参数估计。
引用
@article{arxiv.2503.02267,
title = {REAct: Rational Exponential Activation for Better Learning and Generalization in PINNs},
author = {Sourav Mishra and Shreya Hallikeri and Suresh Sundaram},
journal= {arXiv preprint arXiv:2503.02267},
year = {2025}
}
备注
5 pages, 5 tables, 1 figure; Accepted at ICASSP 2025