基于傅里叶特征和注意力驱动解码的物理信息神经网络
机器学习
2025-10-08 v1 计算物理
摘要
物理信息神经网络(PINNs)是一种用于用深度学习方法近似偏微分方程解的有用框架。本文提出了对 PINNsformer 进行原则性重新设计的方法。我们提出了谱学 PINNsformer(S-Pformer)，这是一种改进的编码器-解码器 PINNSformer，其解决了两个关键问题：1. 编码器的冗余(即参数数量增加)；2. 谱偏差的缓解。我们发现，仅凭自注意力机制即可捕获时空相关性，无需编码器，从而大幅减少参数数量。进一步地，我们集成了傅里叶特征嵌入，以显式缓解谱偏差，实现对频域中多尺度行为的自适应编码。我们的模型在所有基准测试中均优于编码器-解码器 PINNSformer 架构，实现或超越 MLP 的性能，同时显著减少参数数量。
关键词
引用
@article{arxiv.2510.05385,
title = {Physics-Informed Neural Networks with Fourier Features and Attention-Driven Decoding},
author = {Rohan Arni and Carlos Blanco},
journal= {arXiv preprint arXiv:2510.05385},
year = {2025}
}
备注
16 pages, 6 figures. Accepted at NeurIPS 2025 AI4Science workshop