中文

具有共享表示的线性 Bandit 的近极小极大算法

机器学习 2022-03-30 v1 机器学习

摘要

我们给出了用于具有共享表示的多任务和终身线性 bandit 的新算法。具体来说,我们考虑如下设置:我们玩 MM 个维度为 dd 的线性 bandit,每个玩 TT 轮,并且这 MM 个 bandit 任务共享一个公共的 k(d)k(\ll d) 维线性表示。对于并发玩游戏的多任务设置,以及顺序玩游戏的生命周期设置,我们都提出了新算法,实现了 O~(dkMT+kMT)\widetilde{O}\left(d\sqrt{kMT} + kM\sqrt{T}\right) 的遗憾界,该界在对数因子范围内匹配已知的极小极大遗憾下界,并缩小了现有结果[Yang et al., 2021]中的差距。我们的主要技术包括对低秩线性特征提取器的更有效估计器以及针对该估计器的伴随新颖分析。

关键词

引用

@article{arxiv.2203.15664,
  title  = {Nearly Minimax Algorithms for Linear Bandits with Shared Representation},
  author = {Jiaqi Yang and Qi Lei and Jason D. Lee and Simon S. Du},
  journal= {arXiv preprint arXiv:2203.15664},
  year   = {2022}
}

备注

19 pages, 3 figures