论有界均值下赌博置信集的近最优性
统计理论
2023-11-28 v2 信息论
机器学习
math.IT
应用统计
机器学习
统计理论
摘要
从独立同分布(i.i.d.)观测构造单变量分布均值的非渐近置信区间(CIs)是统计学中的基本任务。对于有界观测,一种经典的非参数方法通过反演标准集中不等式(如 Hoeffding 或 Bernstein 不等式)来进行。近来,一种替代的基于赌博的方法来定义 CI 及其时间一致变体(称为置信序列,CSs)被证明在经验上优于经典方法。本文为赌博 CI 与 CS 这种改善的经验性能提供理论依据。我们的主要贡献如下:(i) 我们首先利用一阶渐近宽度(按 缩放)的值比较 CI,并表明 Waudby-Smith 与 Ramdas (2023) 的赌博 CI 比现有的经验 Bernstein (EB)-CI 具有更小的极限宽度。(ii) 接下来,我们建立两个下界,以某些逆信息投影刻画任意构造 CI/CS 方法可达到的最小宽度。(iii) 最后,我们表明赌博 CI 与 CS 匹配基本极限,仅相差一个加性对数项与一个乘性常数。总体而言,这些结果表明赌博 CI(及 CS)比现有最先进的 EB-CI(及 CS)具有更强的理论保证;无论是在渐近还是有限样本 regime 下皆然。
引用
@article{arxiv.2310.01547,
title = {On the near-optimality of betting confidence sets for bounded means},
author = {Shubhanshu Shekhar and Aaditya Ramdas},
journal= {arXiv preprint arXiv:2310.01547},
year = {2023}
}
备注
53 pages, 2 figures