中文

稀疏线性_bandit中的固定预算最优臂识别

机器学习 2023-11-02 v1 机器学习

摘要

我们研究稀疏线性bandit在固定预算设置下的最优臂识别问题。在稀疏线性bandit中,未知特征向量θ\theta^*可能具有高维dd,但仅有少数(例如sds \ll d)特征具有非零值。我们设计了一个两阶段算法,基于Lasso和最优设计(Lasso-OD)的线性最优臂识别。Lasso-OD的第一阶段通过应用Zhou(2009)提出的阈值Lasso利用特征向量的稀疏性,该Lasso使用所选臂的奖励和审慎选择的设计矩阵以高概率正确估计θ\theta^*的支撑。Lasso-OD的第二阶段在该估计支撑上应用Yang和Tan(2022)的OD-LinBAI算法。我们通过仔细选择超参数(如Lasso的正则化参数)并平衡两阶段的错误概率,推导了Lasso-OD错误概率的非渐近上界。对于固定稀疏度ss和预算TT,Lasso-OD错误概率中的指数依赖于ss而不依赖于维度dd,为稀疏高维线性bandit带来了显著的性能提升。此外,我们证明Lasso-OD在指数上几乎是极小极大最优的。最后,我们提供数值例子以展示相较于现有非稀疏线性bandit算法(如OD-LinBAI、BayesGap、Peace、LinearExploration和GSE)的显著性能提升。

关键词

引用

@article{arxiv.2311.00481,
  title  = {Fixed-Budget Best-Arm Identification in Sparse Linear Bandits},
  author = {Recep Can Yavas and Vincent Y. F. Tan},
  journal= {arXiv preprint arXiv:2311.00481},
  year   = {2023}
}

备注

28 pages, Submitted to TMLR