宽随机神经网络深度极限下的大偏差原理与泛函极限定理
概率论
2026-01-09 v1
摘要
本文研究定义在单位球面上的一类连续、各向同性、中心化高斯随机场的大偏差原理与弱收敛,包括在有限维分布层面和泛函形式层面的结果。这些场的协方差函数通过由激活函数诱导的非线性映射递归演化,反映了无限宽随机神经网络随深度增加的统计动力学。我们考虑两种中心化场,分别通过减去北极点的值或球面平均值得到。根据相关协方差函数在 处导数的行为,我们识别出三种状态:低无序、稀疏和高无序。在低无序状态下,我们建立了泛函大偏差原理和弱收敛结果。在稀疏状态下,我们得到了有限维分布的大偏差原理和弱收敛,但由于协方差递归中出现不连续性,这两种性质在泛函层面均失效。
引用
@article{arxiv.2601.04677,
title = {Large deviation principles and functional limit theorems in the deep limit of wide random neural networks},
author = {Simmaco Di Lillo and Claudio Macci and Barbara Pacchiarotti},
journal= {arXiv preprint arXiv:2601.04677},
year = {2026}
}
备注
22 pages