循环等价约束调制：从数据学习分层对称松弛
机器学习
2026-02-24 v2
摘要
等价神经网络利用任务中的底层对称性以提高泛化能力，但严格的等价约束会导致更复杂的优化动力学，可能阻碍学习。先前的工作通过放宽训练中的严格等价性来克服这些限制，但通常依赖于为每个网络层预先指定、显式或隐式的目标松弛水平，这些水平是任务相关的且调参成本高昂。我们提出循环等价约束调制（Recurrent Equivariant Constraint Modulation, RECM），这是一种分层约束调制机制，能够仅依据训练信号和每个网络层输入-目标分布的对称性属性来学习合适的松弛水平，无需关于任务相关目标松弛水平的任何先验知识。我们证明，在所提出的RECM更新下，每个层的松弛水平可证明地收敛到其对称性间隙（即其输入-目标分布偏离精确对称程度）所上限的值。因此，处理对称分布的层恢复完全等价性，而那些具有近似对称性的层则保留足够的灵活性，以在数据所需时学习非对称解。实验表明，RECM 在包括几何-药物数据集上具有挑战性的分子构象生成等多种精确和近似等价任务中均优于先前方法。
引用
@article{arxiv.2602.02853,
title = {Recurrent Equivariant Constraint Modulation: Learning Per-Layer Symmetry Relaxation from Data},
author = {Stefanos Pertigkiozoglou and Mircea Petrache and Shubhendu Trivedi and Kostas Daniilidis},
journal= {arXiv preprint arXiv:2602.02853},
year = {2026}
}