多元神经网络输出的最优非渐近埃奇沃思展开
机器学习
2026-05-26 v1 机器学习
概率论
摘要
具有高斯初始化权重的有限宽度全连接神经网络偏离其无限宽度高斯极限,表现出非消失的高阶累积量。我们使用任意阶()的多维埃奇沃思展开,来近似这些在有限数量输入上评估的神经网络的偏差。假设相应的高斯极限具有可逆协方差矩阵且激活函数是多项式有界的,我们在真实网络输出分布与其埃奇沃思近似之间的全变差距离上建立了一个阶的界,并给出了匹配的下界。作为一个应用,我们量化了当先验被其埃奇沃思展开替代时贝叶斯后验分布中的误差。我们的结果更具一般性,也适用于收敛到具有可逆协方差的高斯向量的条件高斯向量序列。
引用
@article{arxiv.2605.24072,
title = {Optimal Non-Asymptotic Edgeworth Expansions for Multivariate Neural Network Outputs},
author = {Lucia Celli},
journal= {arXiv preprint arXiv:2605.24072},
year = {2026}
}
备注
34 pages, 2 figures