不同优化景观中临界点处普遍的对称性
机器学习
2025-06-04 v1 人工智能
原子物理
摘要
对称性在理解数学结构和优化问题的性质中起着至关重要的作用。近期工作在神经网络背景下探索了这一现象，其中损失函数在网络权重的列和行置换下保持不变。据观察，局部极小值相对于网络权重表现出显著的对称性（对行和列置换不变）。而且，未发现缺乏对称性的临界点。我们通过研究在更广泛空间类上定义的实值损失函数中的对称性现象来扩展这一研究。我们将引入另外四个案例：有限域上的射影案例、八面体图案例、完美匹配案例和粒子吸引案例。我们证明，与神经网络案例一样，所有观察到的临界点都具有非平凡对称性。最后，我们引入了一种新的系统对称性度量，并表明它揭示了先前度量未捕捉到的额外对称性结构。
引用
@article{arxiv.2506.01959,
title = {Ubiquitous Symmetry at Critical Points Across Diverse Optimization Landscapes},
author = {Irmi Schneider},
journal= {arXiv preprint arXiv:2506.01959},
year = {2025}
}