超越损失引导:将 PDE 残差作为扩散神经算子中的谱注意力
机器学习
2025-12-02 v1 人工智能
数值分析
数值分析
机器学习
摘要
用于偏微分方程(PDE)的基于扩散的求解器通常受限于使用 PDE 残差进行损失引导的缓慢基于梯度的测试时间优化例程。它们还遭受优化不稳定,并且在存在噪声 PDE 残差时无法动态调整其推理方案。为了解决这些限制,我们引入了 PRISMA(PDE 残差引导的谱调制与注意力),一种条件扩散神经算子,通过谱域中的注意力机制将 PDE 残差直接嵌入模型架构中,从而实现无梯度下降推理。与之前仅将 PDE 损失用作外部优化目标的方法不同,PRISMA 将 PDE 残差作为内在的架构特征,使其本质上快速、稳健、准确,并且无需敏感的超参数调优。我们在五个基准 PDE 上展示了 PRISMA 具有竞争力的准确率,同时显著降低推理成本,特别是在有噪声观测的情况下,同时使用 10 倍到 100 倍更少的去噪步数,实现了 15 倍到 250 倍的推理加速。
引用
@article{arxiv.2512.01370,
title = {Beyond Loss Guidance: Using PDE Residuals as Spectral Attention in Diffusion Neural Operators},
author = {Medha Sawhney and Abhilash Neog and Mridul Khurana and Anuj Karpatne},
journal= {arXiv preprint arXiv:2512.01370},
year = {2025}
}