中文

理解流式随机多臂老虎机中的记忆-遗憾权衡

机器学习 2024-07-09 v2 数据结构与算法 机器学习

摘要

我们研究了PP遍流式模型下的随机多臂老虎机问题。在该问题中,nn个臂以流的形式呈现,且最多只能存储m<nm<n个臂及其统计量到内存中。我们给出了关于mmnnPP的最优遗憾的完整刻画。具体地,我们设计了一个遗憾为O~((nm)1+2P22P+11n22P+12P+11T2P2P+11)\tilde O\left((n-m)^{1+\frac{2^{P}-2}{2^{P+1}-1}} n^{\frac{2-2^{P+1}}{2^{P+1}-1}} T^{\frac{2^P}{2^{P+1}-1}}\right)的算法,并在轮数TT足够大时,给出了一个Ω~((nm)1+2P22P+11n22P+12P+11T2P2P+11)\tilde \Omega\left((n-m)^{1+\frac{2^{P}-2}{2^{P+1}-1}} n^{\frac{2-2^{P+1}}{2^{P+1}-1}} T^{\frac{2^P}{2^{P+1}-1}}\right)的下界与之匹配。我们的结果在nnPP的对数因子意义下是紧的。

关键词

引用

@article{arxiv.2405.19752,
  title  = {Understanding Memory-Regret Trade-Off for Streaming Stochastic Multi-Armed Bandits},
  author = {Yuchen He and Zichun Ye and Chihao Zhang},
  journal= {arXiv preprint arXiv:2405.19752},
  year   = {2024}
}