中文

形状约束对阈值化多臂老虎机问题的影响

机器学习 2021-02-24 v3 机器学习

摘要

我们在若干形状约束下研究随机阈值化多臂老虎机问题(TBP)。除(i)原始无结构 TBP 外,我们考虑(ii)臂均值序列 (μk)k(\mu_k)_k 单调递增的情形 MTBP、(iii)(μk)k(\mu_k)_k 为单峰的情形 UTBP,以及(iv)(μk)k(\mu_k)_k 为凹的情形 CTBP。在 TBP 中,目标是在序贯博弈结束时输出均值高于给定阈值的臂集合。悔值是误分类臂与阈值之间的最大间隙。在固定预算设定下,我们给出了所有设定中期望悔值的与问题无关的极小极大速率,以及相应算法。我们证明悔值的极小极大速率为(i)TBP 为 log(K)K/T\sqrt{\log(K)K/T},(ii)MTBP 为 log(K)/T\sqrt{\log(K)/T},(iii)UTBP 为 K/T\sqrt{K/T},(iv)CTBP 为 loglogK/T\sqrt{\log\log K/T},其中 KK 为臂数、TT 为预算。这些速率表明极小极大悔值对 KK 的依赖随形状约束不同而有显著变化,凸显了形状约束从根本上改变了 TBP 的性质。

关键词

引用

@article{arxiv.2006.10006,
  title  = {The Influence of Shape Constraints on the Thresholding Bandit Problem},
  author = {James Cheshire and Pierre Menard and Alexandra Carpentier},
  journal= {arXiv preprint arXiv:2006.10006},
  year   = {2021}
}