通过运输不等式对两层神经网络实现时间均匀集中
神经与进化计算
2026-03-03 v1 概率论
摘要
我们量化了使用随机梯度下降 (SGD) 训练的两层神经网络预测与其均值场极限之间的的差异，关于固定测试函数 。作为关键要素，我们为 SGD 参数的分布建立了 运输不等式 ()，并给出与迭代指数无关的显式常数。随后，我们证明了经验参数测度在 Wasserstein 距离 周围其均值场极限的在时间上的均匀集中，并将这些界转化为对固定测试函数 的预测误差估计。我们还推导出在切片 Wasserstein 距离 上的类似集中界，导致维度无关的收敛速率。
引用
@article{arxiv.2603.01842,
title = {Uniform-in-time concentration in two-layer neural networks via transportation inequalities},
author = {Arnaud Guillin and Boris Nectoux and Paul Stos},
journal= {arXiv preprint arXiv:2603.01842},
year = {2026}
}