E2Former：一种具有线性缩放张量积的高效等变 Transformer

等变图神经网络（EGNN）在建模化学、生物学和材料科学等微观系统方面取得了显著成功。然而，由于通过球面张量积构建边特征的计算成本高昂，EGNN 面临巨大的计算挑战，使其难以应用于大规模系统。为解决这一局限性，我们提出了 E2Former，这是一种等变且高效的 Transformer 架构，集成了 Wigner $6j$ 卷积（Wigner $6j$ Conv）。通过将计算负担从边转移到节点，Wigner $6j$ Conv 将复杂度从 $O(|\mathcal{E}|)$ 降低至 $O(|\mathcal{V}|)$，同时保持了模型的表达能力和旋转等变性。我们证明，与传统的 $\mathrm{SO}(3)$ 卷积相比，该方法实现了 7 倍至 30 倍的加速。此外，我们的实验结果表明，所构建的 E2Former 缓解了现有方法的计算挑战，同时未损害其捕获详细几何信息的能力。这一进展为可扩展且高效的分子建模指明了一个有前景的方向。