中文

(近似)群等变性下的近似-泛化权衡

机器学习 2025-04-21 v2 机器学习

摘要

通过对称性显式引入任务特定的归纳偏置,已成为开发高性能机器学习模型的通用设计原则。例如,群等变神经网络在蛋白质与药物设计等多个领域和应用中展现了令人印象深刻的性能。关于此类模型的一个普遍直觉是,引入相关对称性可增强泛化能力。此外,有人认为当数据和/或模型可能仅表现出近似或局部对称性时,最优或性能最佳的模型是模型对称性与数据对称性对齐的模型。本文对这些直觉进行了形式化的统一研究。首先,我们给出一般性的定量界,表明捕捉任务特定对称性的模型可带来更好的泛化。事实上,我们的结果不要求变换是有限的甚至构成群,并且可适用于局部或近似等变性。利用该量化,我们考察了更一般的模型误设定问题,即模型对称性与数据对称性不对齐的情形。我们针对给定对称群,建立了模型的近似/局部等变性与数据分布的近似/局部等变性之间的定量比较,精确地将模型等变误差与数据等变误差联系起来。我们的结果刻画了模型等变误差达到最优的条件,从而针对给定任务和数据产生性能最佳的模型。我们的结果是文献中同类结果中最一般的。

关键词

引用

@article{arxiv.2305.17592,
  title  = {Approximation-Generalization Trade-offs under (Approximate) Group Equivariance},
  author = {Mircea Petrache and Shubhendu Trivedi},
  journal= {arXiv preprint arXiv:2305.17592},
  year   = {2025}
}

备注

23 Pages. Updated to the published version. Advances in Neural Information Processing Systems 36, 61936-61959