论多臂老虎机中样本均值的偏差、风险与一致性
统计理论
2021-05-03 v3 机器学习
机器学习
统计理论
摘要
样本均值是统计学中研究最充分的估计量之一,具有无偏性与一致性等诸多优良性质。然而,在分析采用多臂老虎机(MAB)实验收集的数据时,样本均值有偏,且其性质仍待深入理解。例如,它何时一致、偏差多大、我们能否界定其均方误差?本文对 MAB 样本均值的偏差、风险与一致性给出透彻而系统的处理。具体而言,我们辨识出四种不同的选择偏差来源(抽样、停止、选择与回绕),并分别及联合地分析它们。我们进一步证明,新的“有效样本量”概念可用于在合适损失函数下界定样本均值的风险。我们给出若干精心设计的例子,以直观说明所研究的不同选择偏差来源。我们的处理是非参数且与算法无关的,即不依赖于特定算法或目标。简而言之,我们的证明结合了信息论散度的变分表示与新的鞅集中不等式。
引用
@article{arxiv.1902.00746,
title = {On the bias, risk and consistency of sample means in multi-armed bandits},
author = {Jaehyeok Shin and Aaditya Ramdas and Alessandro Rinaldo},
journal= {arXiv preprint arXiv:1902.00746},
year = {2021}
}
备注
48 pages