马尔可夫数据上等变网络的泛化界
机器学习
2025-03-04 v1 机器学习
摘要
等变神经网络在分析具有对称性质的数据集中扮演着关键角色，特别是在复杂数据结构中。然而，将等变性与马尔可夫性质相结合由于此类数据固有的依赖性而带来了显著挑战。此前的研究主要集中于在独立同分布数据假设下建立泛化界，经常忽视了马尔可夫依赖性的影响。在本研究中，我们探讨了马尔可夫性质对泛化性能的影响以及等变性在此背景下的作用。我们首先应用一个新的McDiarmid不等式，为在马尔可夫数据集上训练的神经网络推导泛化界，以Rademacher复杂度作为模型容量的核心度量。随后，我们利用群论计算等变约束下的覆盖数，从而基于该覆盖数获得Rademacher复杂度的上界。该界为选择低维不可约表示提供了实用见解，增强了固定宽度等变神经网络的泛化性能。
引用
@article{arxiv.2503.00292,
title = {Generalization Bounds for Equivariant Networks on Markov Data},
author = {Hui Li and Zhiguo Wang and Bohui Chen and Li Sheng},
journal= {arXiv preprint arXiv:2503.00292},
year = {2025}
}
备注
Submitted for possible publication