帕洛塔变换器：等变性的坚实选择
计算机视觉与模式识别
2025-10-09 v2 人工智能
机器学习
图像与视频处理
摘要
虽然变换器广泛使用，但它们缺乏对常见于科学和计算机视觉领域的几何对称性的归纳偏置。现有的等变方法往往通过复杂且计算密集的设计牺牲了变换器如此高效与灵活的特性。我们引入帕洛塔变换器以解决这一权衡。通过定义相对于帕洛塔固体对称性群的参考系的注意力，我们的方法引入了原则性的权重共享方案。这使我们能够在保持标准变换器的精确架构和计算成本的同时，实现对连续平移和帕洛塔对称性的等变性。此外，我们表明，这种注意力机制在形式上等价于动态组卷积，这表明该模型学习自适应几何滤波器，并可实现高度可扩展的线性时间卷积变体。在计算机视觉（CIFAR-10）、3D 点云（ScanObjectNN）和分子属性预测（QM9、OMol25）等多样化基准上，帕洛塔变换器通过在无额外成本下利用这些几何约束，实现了竞争性能。
引用
@article{arxiv.2510.03511,
title = {Platonic Transformers: A Solid Choice For Equivariance},
author = {Mohammad Mohaiminul Islam and Rishabh Anand and David R. Wessels and Friso de Kruiff and Thijs P. Kuipers and Rex Ying and Clara I. Sánchez and Sharvaree Vadgama and Georg Bökman and Erik J. Bekkers},
journal= {arXiv preprint arXiv:2510.03511},
year = {2025}
}