中文

UCBoost:一种驯服随机_bandit复杂度与最优性的提升方法

机器学习 2018-04-18 v1 人工智能 机器学习

摘要

在本工作中,我们解决了为序贯决策问题寻找低复杂度近最优多臂 bandit 算法的开放问题。现有 bandit 算法要么次优且计算简单(如 UCB1),要么最优且计算复杂(如 kl-UCB)。我们提出一种基于上置信界(Upper Confidence Bound)的随机 bandit 算法的提升方法,称之为 UCBoost。具体而言,我们提出两类 UCBoost 算法。我们证明 UCBoost(DD) 每轮每臂具有 O(1)O(1) 复杂度,且遗憾保证与 kl-UCB 算法相差 1/e1/e 以内。我们提出一种基于近似的 UCBoost 算法 UCBoost(ϵ\epsilon),其遗憾保证与 kl-UCB 相差 ϵ\epsilon 以内,且每轮每臂复杂度为 O(log(1/ϵ))O(\log(1/\epsilon))。因此,我们的算法为实践者提供了一种在最优性与计算复杂度之间权衡的实用途径。最后,我们给出数值结果,表明 UCBoost(ϵ\epsilon) 可取得与标准 kl-UCB 相同的遗憾性能,而仅产生 kl-UCB 计算代价的 1%1\%

关键词

引用

@article{arxiv.1804.05929,
  title  = {UCBoost: A Boosting Approach to Tame Complexity and Optimality for Stochastic Bandits},
  author = {Fang Liu and Sinong Wang and Swapna Buccapatnam and Ness Shroff},
  journal= {arXiv preprint arXiv:1804.05929},
  year   = {2018}
}

备注

Accepted by IJCAI 2018