SAOT：用于求解偏微分方程的增强局部感知谱转换器
机器学习
2025-11-25 v1
摘要
神经算子在通过建模输入函数与输出函数之间的映射来求解一族偏微分方程（PDE）方面显示出巨大的潜力。傅里叶神经算子（FNO）通过对傅里叶空间中的积分算子进行参数化来实现全局卷积。然而，这往往导致解决方案过度平滑，无法捕捉局部细节和高频分量。为此，我们研究将小波变换的空间频率局化特性融入Transformer架构。我们提出了一种具有线性计算复杂度的新型小波注意力（Wavelet Attention, WA）模块，以高效学习局部感知特征。基于WA，我们进一步开发了谱注意力算子转换器（Spectral Attention Operator Transformer, SAOT），这是一种融合WA的局部聚焦与傅里叶注意力（FA）全局感受野的混合谱Transformer框架，通过门控融合块实现整合。实验结果表明，WA显著缓解了FA的局限性，相较于现有的基于小波的神经算子方法，性能大幅提升。通过整合局部感知与全局谱表征，SAOT在六个算子学习基准测试中实现了最先进的性能，并展现出强大的无离散化不变性。
引用
@article{arxiv.2511.18777,
title = {SAOT: An Enhanced Locality-Aware Spectral Transformer for Solving PDEs},
author = {Chenhong Zhou and Jie Chen and Zaifeng Yang},
journal= {arXiv preprint arXiv:2511.18777},
year = {2025}
}
备注
Accepted to AAAI 2026 (Main Technical Track)