可扩展的广义线性赌博机:在线计算与哈希方法
机器学习
2017-10-24 v3 机器学习
摘要
广义线性赌博机(Generalized Linear Bandits, GLB)作为随机线性赌博机的自然扩展,近年来广受欢迎并取得成功。然而,现有 GLB 方法在轮次数量和臂数量方面的扩展性较差,限制了其实用性。本文从两个方面为 GLB 问题提出了新的可扩展解决方案。首先,与现有 GLB 每时间步的空间和时间复杂度至少随时间 线性增长不同,我们提出了一种新算法,通过在线计算实现常数级空间和时间复杂度。其核心是一种新颖的广义线性在线到置信集转换方法(GLOC 方法),该方法可将任意在线学习算法转化为 GLB 算法。作为特例,我们将 GLOC 应用于在线牛顿步算法,得到一种低遗憾的 GLB 算法,其时间和内存复杂度远低于先前工作。其次,针对臂数量 非常大的情况,我们提出了通过内积搜索选择下一臂的新算法。此类方法可通过哈希算法实现(即“哈希友好”),并达到关于 的次线性时间复杂度。虽然 GLOC 的汤普森采样扩展是哈希友好的,但其对 维臂集的遗憾界与 成比例,而 GLOC 的遗憾界与 成比例。为缩小这一差距,我们提出了一种新的哈希友好算法,其遗憾界与 成比例。最后,我们提出了一种快速近似哈希键计算(内积)方法,其精度优于现有技术,具有独立的研究价值。我们以初步实验结果结束全文,验证了所提方法的优点。
引用
@article{arxiv.1706.00136,
title = {Scalable Generalized Linear Bandits: Online Computation and Hashing},
author = {Kwang-Sung Jun and Aniruddha Bhargava and Robert Nowak and Rebecca Willett},
journal= {arXiv preprint arXiv:1706.00136},
year = {2017}
}
备注
accepted to NIPS'17 (typos fixed)