泛化误差的平均场分析

我们提出了一个通过概率测度空间上的微积分视角探索算法的弱泛化误差与 $L_2$ 泛化误差的新框架。具体而言，我们考虑 KL 正则化经验风险最小化问题，并建立当在大小为 $n$ 的样本上训练时泛化误差收敛速率为 $\mathcal{O}(1/n)$ 的一般条件。在平均场机制下具有单隐藏层神经网络的有监督学习背景下，这些条件体现为对损失和激活函数的适当可积性与正则性假设。