中文

广义线性_bandit中的随机化探索

机器学习 2023-07-12 v3 机器学习

摘要

我们研究了两种用于广义线性 bandit 的随机化算法。第一种 GLM-TSL 从后验分布的 Laplace 近似中采样一个广义线性模型(GLM)。第二种 GLM-FPL 将 GLM 拟合到随机扰动的过去奖励历史上。我们分析了两种算法,并推导出它们 nn 轮 regret 的 O~(dnlogK)\tilde{O}(d \sqrt{n \log K}) 上界,其中 dd 为特征数,KK 为臂数。前者改进了先前工作,而后者是针对非线性模型中高斯噪声扰动的首个结果。我们在 logistic bandits 中对 GLM-TSL 和 GLM-FPL 进行了经验评估,并将 GLM-FPL 应用于神经网络 bandit。我们的工作展示了除后验采样外,随机化在探索中的作用。

关键词

引用

@article{arxiv.1906.08947,
  title  = {Randomized Exploration in Generalized Linear Bandits},
  author = {Branislav Kveton and Manzil Zaheer and Csaba Szepesvari and Lihong Li and Mohammad Ghavamzadeh and Craig Boutilier},
  journal= {arXiv preprint arXiv:1906.08947},
  year   = {2023}
}

备注

Proceedings of the 23rd International Conference on Artificial Intelligence and Statistic