针对均值估计的近指数级节省：基于主动学习的研究
机器学习
2025-11-11 v1
摘要
我们研究了在分析师可获取与 Y 可能相关的协变量 X 的情况下，使用有限数量的标签 N 高效估计 k 类随机变量 Y 的均值的问题。我们提出了一种主动学习算法（“PartiBandits”）来估计 E[Y]。该算法得到的估计值 PB^ 使得 (PB^ - E[Y])^2 为 O~( (v + exp(c * (-N/log(N))) / N)，其中 c >0 为常数，v 为贝叶斯最优分类器的风险。PartiBandits 本质上是一个两阶段算法。在第一阶段，它学习 unlabeled 数据的分区，以缩小 Y 的条件方差的平均值。在第二阶段，它使用一种 UCB 风格的子程序（“WarmStart-UCB”）逐轮请求每个 stratum 的标签。无论是主算法还是子程序的收敛率在经典设置下都是 minimax 最优的。PartiBandits 虽然设计用于解决非常不同的任务，却将 UCB 方法和 disagreement-based 方法桥接起来。我们通过使用全国电子健康记录进行仿真来展示我们的方法。我们的方法可通过 R 语言中的 PartiBandits 软件包实现。
引用
@article{arxiv.2511.05736,
title = {Near-Exponential Savings for Mean Estimation with Active Learning},
author = {Julian M. Morimoto and Jacob Goldin and Daniel E. Ho},
journal= {arXiv preprint arXiv:2511.05736},
year = {2025}
}
备注
Accepted to the 39th Conference on Neural Information Processing Systems (NeurIPS 2025)