关于 A/B 测试的普适最优算法
机器学习
2024-06-05 v4 机器学习
摘要
我们研究具有伯努利奖励的随机多臂老虎机中固定预算的最佳臂识别问题。对于双臂情形(即 A/B 测试问题),我们证明不存在这样的算法:(i) 在所有实例上表现与均匀采样各臂的算法(称为均匀采样算法)相当,且 (ii) 在至少一个实例上严格优于均匀采样。简言之,不存在优于均匀采样算法的算法。为确立该结果,我们首先引入一致且稳定算法这一自然类,并证明在任何实例上与均匀采样算法表现相当的算法均属于此类。随后通过推导任意一致且稳定算法满足的错误率下界,并证明均匀采样算法达到该下界来完成证明。我们的结果解决了 \citep{qin2022open} 中提出的两个开放问题。对于多于两臂的一般问题,我们给出首批结果:刻画了著名的连续拒绝(SR)算法 \citep{audibert2010best} 的渐近错误率,并出人意料地表明均匀采样算法在某些实例上优于 SR 算法。
引用
@article{arxiv.2308.12000,
title = {On Universally Optimal Algorithms for A/B Testing},
author = {Po-An Wang and Kaito Ariu and Alexandre Proutiere},
journal= {arXiv preprint arXiv:2308.12000},
year = {2024}
}
备注
Accepted at ICML 2024