基于注意力的时空神经算子用于演化物理
机器学习
2025-06-16 v1 计算工程、金融与科学
摘要
在科学机器学习 (SciML) 中，学习未知的演化物理过程并进行跨时空尺度的预测是一项关键挑战。例如，在实际的制造问题中，如增材制造，用户会调整已知的机器设置，而未知的环境参数会同时波动。为了做出可靠的预测，模型需要不仅捕获来自数据的长程时空相互作用，还需要适应新的和未知的环境；传统机器学习模型在完成第一项任务方面表现出色，但往往缺乏物理可解释性，并且在变化的环境条件下难以泛化。为了应对这些挑战，我们提出了基于注意力的时空神经算子 (ASNO)，一种新型架构，将空间和时间相互作用的可分离注意力机制与适应不可见物理参数的能力相结合。受后向差分公式 (BDF) 的启发，ASNO学习一个用于时序预测和外推的变压器，以及用于处理不同外部负荷的注意力机制神经算子，通过隔离历史状态贡献和外部力，增强了可解释性，使其能够发现底层物理规律，并能够对不可见的物理环境进行泛化。在SciML基准测试中的经验结果表明，ASNO超过了现有模型，展示了其在工程应用、物理发现和可解释机器学习中的潜力。
引用
@article{arxiv.2506.11328,
title = {An Attention-based Spatio-Temporal Neural Operator for Evolving Physics},
author = {Vispi Karkaria and Doksoo Lee and Yi-Ping Chen and Yue Yu and Wei Chen},
journal= {arXiv preprint arXiv:2506.11328},
year = {2025}
}