通过轨道距离最小化学习对称化以实现等变性
机器学习
2023-11-14 v1
摘要
我们提出一个通用框架，用于对任意神经网络架构进行对称化，并使其相对于给定群具有等变性。我们基于 Kim 等（2023）与 Kaba 等（2023）的对称化方案，并用一种优化替代其将神经特征转换为群表示的步骤，该优化的损失直观度量群轨道间的距离。这一改动使我们的方法可适用于更广的矩阵群，如洛伦兹群 O(1, 3)，优于上述两种方案。我们在 SO(2) 图像分类任务上实验展示了方法的竞争力，并在 O(1, 3) 任务上展示其更强通用性。我们的实现将发布于 https://github.com/tiendatnguyen-vision/Orbit-symmetrize。
引用
@article{arxiv.2311.07143,
title = {Learning Symmetrization for Equivariance with Orbit Distance Minimization},
author = {Tien Dat Nguyen and Jinwoo Kim and Hongseok Yang and Seunghoon Hong},
journal= {arXiv preprint arXiv:2311.07143},
year = {2023}
}
备注
16 pages, 1 figure