中文

结构化线性上下文赌博机:一种尖锐且几何的平滑分析

机器学习 2020-02-27 v1 统计理论 机器学习 统计理论

摘要

赌博机学习算法通常涉及探索与利用的平衡。然而,在许多实际应用中,需要系统性探索的最坏情况场景很少遇到。在这项工作中,我们考虑结构化线性上下文赌博机的一种平滑设定,其中对抗性上下文被高斯噪声扰动,且未知参数 θ\theta^* 具有结构,例如稀疏性、组稀疏性、低秩等。我们针对单参数和多参数(即每个上下文具有不同参数)设定提出了简单的贪心算法,并对具有任意假定结构的 θ\theta^* 提供了统一的后悔分析。后悔界用与 θ\theta^* 结构相关的几何量(如高斯宽度)表示。作为我们改进分析的结果,对于非结构化 θ\theta^* 设定,我们也获得了比早期工作更尖锐的后悔界。我们展示了在平滑设定中存在隐式探索,使得简单的贪心算法即可生效。

关键词

引用

@article{arxiv.2002.11332,
  title  = {Structured Linear Contextual Bandits: A Sharp and Geometric Smoothed Analysis},
  author = {Vidyashankar Sivakumar and Zhiwei Steven Wu and Arindam Banerjee},
  journal= {arXiv preprint arXiv:2002.11332},
  year   = {2020}
}