从均匀到自适应：高效 PDE 神经算子通用跳过-块机制
机器学习
2025-11-05 v2 人工智能
摘要
近年来，神经算子(Neural Operators, NO) 逐渐成为求解偏微分方程(PDE)的流行方法。然而，其在大规模工程任务中的应用受到显著计算开销的制约。当前模型在推断时施加均匀的计算成本，而物理场 exhibits 截然不同的复杂度，这构成了这种效率低下的根本原因。例如，在湍流流动中，复杂涡旋区域需要更深的网络处理，而稳定流动则相对简单。为此，我们引入一个框架：跳过-块路由(Skip-Block Routing, SBR)，一个为基于 Transformer 的神经算子设计的通用框架，可集成到其多层架构中。首先，SBR 使用路由机制学习 token 的复杂度和排序，并在推断时应用。随后，在后续层中，它根据该排序决定传递多少个 token。如此一来，模型将更多处理资源集中于更复杂的 token。实验表明，SBR 是一个通用的框架，可无缝集成到各种神经算子中。本方法在浮点运算(FLOPs)上的计算成本约降低 50%，同时在不牺牲准确性的前提下实现了最高可达 2 倍的推理速度提升。
引用
@article{arxiv.2511.00032,
title = {From Uniform to Adaptive: General Skip-Block Mechanisms for Efficient PDE Neural Operators},
author = {Lei Liu and Zhongyi Yu and Hong Wang and Huanshuo Dong and Haiyang Xin and Hongwei Zhao and Bin Li},
journal= {arXiv preprint arXiv:2511.00032},
year = {2025}
}