学习概率对称化以实现架构无关的等变性
机器学习
2024-04-16 v3 人工智能
摘要
我们提出一种新颖框架,以克服等变架构在学习具有群对称性的函数时的局限。与等变架构相反,我们使用任意基础模型(如 MLP 或 transformer)并通过采用一个小的等变网络来参数化对称化背后的概率分布,从而将其对称化为对给定群等变。该分布与基础模型端到端训练,可在降低对称化样本复杂度的同时最大化性能。我们表明该方法不仅确保对给定群的等变性,还确保期望中的通用逼近能力。我们在各种基础模型上实现我们的方法,包括可从预训练视觉 transformer 初始化的基于块的 transformer,并针对广泛的对称群(包括置换群和欧氏群及其组合)进行测试。实证测试显示与定制等变架构相比具有竞争力,表明使用非等变通用基础架构学习多样群的等变函数的潜力。我们进一步展示从非对称模态(如视觉)预训练时在图等对称模态中增强学习的证据。代码可在 https://github.com/jw9730/lps 获取。
引用
@article{arxiv.2306.02866,
title = {Learning Probabilistic Symmetrization for Architecture Agnostic Equivariance},
author = {Jinwoo Kim and Tien Dat Nguyen and Ayhan Suleymanzade and Hyeokjun An and Seunghoon Hong},
journal= {arXiv preprint arXiv:2306.02866},
year = {2024}
}
备注
32 pages, 11 figures