乘积空间中的统一大数定律
机器学习
2026-03-26 v1 统计理论
统计理论
摘要
统一的大数定律是 Vapnik--Chervonenkis 理论的基石,其中由 VC 维的有限性所特征。本文研究乘积空间中的统一收敛现象,在底层分布假设与乘积结构兼容的条件下。具体而言,我们假设分布相对于其边际分布的乘积是绝对连续的,这捕获了包括乘积分布、稀疏混合分布、低互信息分布等许多自然情形。我们表明,在此假设下,若一个事件族的线性 VC 维是有限的,则该事件族满足统一大数定律。线性 VC 维定义为位于轴平行线上的最大被掰集的集合大小,即所有坐标除最多一个之外都相同的向量集合。该维度始终小于等于经典 VC 维,但可以任意小。例如, 中凸集族的线性 VC 维为2,而其 VC 维在 时已是无限。我们的证明依赖于与标准经验均值估计器大相径庇的估计器,具有更复杂的结构。我们表明,这些偏离标准经验均值估计器的做法在此环境中是不可避免的。本文提出了若干开放问题,特别关注定量样本复杂度界限。
关键词
引用
@article{arxiv.2603.24493,
title = {Uniform Laws of Large Numbers in Product Spaces},
author = {Ron Holzman and Shay Moran and Alexander Shlimovich},
journal= {arXiv preprint arXiv:2603.24493},
year = {2026}
}