中文

ViTO:视觉 Transformer-算子

计算机视觉与模式识别 2023-03-17 v1 数值分析 数值分析

摘要

我们将视觉 Transformer 与算子学习相结合,以求解由偏微分方程(PDEs)描述的各类逆问题。我们名为 ViTO 的方法将基于 U-Net 的架构与视觉 Transformer 相结合。我们应用 ViTO 求解日益复杂的 PDE 逆问题,即波动方程、Navier-Stokes 方程和 Darcy 方程。我们聚焦于更具挑战性的超分辨率情形,其中逆问题的输入数据集分辨率显著粗于输出。我们所得结果在精度上可与领先的算子网络基准相当或超越之。此外,ViTO 的架构具有较少的可训练参数(不到领先竞争者的 10%),在各测试用例平均下实现了超过 5 倍的性能加速。

关键词

引用

@article{arxiv.2303.08891,
  title  = {ViTO: Vision Transformer-Operator},
  author = {Oded Ovadia and Adar Kahana and Panos Stinis and Eli Turkel and George Em Karniadakis},
  journal= {arXiv preprint arXiv:2303.08891},
  year   = {2023}
}