探索卷积网络中的等变性与对称性破缺
计算机视觉与模式识别
2025-06-03 v3 人工智能
机器学习
摘要
在本工作中，我们探讨了显式结构先验，特别是群等变性的权衡。我们通过理论分析和全面实证研究来解决这一问题。为实现受控且公平的比较，我们引入了 \texttt{Rapidash}，一种统一的群卷积架构，允许等变和非等变模型的不同变体。我们的结果表明，与任务几何对齐时，更受约束的等变模型在性能上优于较不受约束的替代方案，增加表示容量并不足以消除性能差距。我们看到通过诸如分割、回归和生成等任务在 diverse 数据集上的模型具有等变性和对称性破缺带来了改进。通过几何参考框架显式地实现 \textit{对称性破缺} 始终会改善性能，而通过几何输入特征实现 \textit{破坏等变性} 在与任务几何对齐时可能是有帮助的。我们的结果提供了 task-specific performance trends，这为模型选择提供了更细致的方式。
引用
@article{arxiv.2501.01999,
title = {Probing Equivariance and Symmetry Breaking in Convolutional Networks},
author = {Sharvaree Vadgama and Mohammad Mohaiminul Islam and Domas Buracas and Christian Shewmake and Artem Moskalev and Erik Bekkers},
journal= {arXiv preprint arXiv:2501.01999},
year = {2025}
}
备注
27 pages, 7 figures