稀疏线性_bandit中的固定预算最优臂识别
机器学习
2023-11-02 v1 机器学习
摘要
我们研究稀疏线性bandit在固定预算设置下的最优臂识别问题。在稀疏线性bandit中,未知特征向量可能具有高维,但仅有少数(例如)特征具有非零值。我们设计了一个两阶段算法,基于Lasso和最优设计(Lasso-OD)的线性最优臂识别。Lasso-OD的第一阶段通过应用Zhou(2009)提出的阈值Lasso利用特征向量的稀疏性,该Lasso使用所选臂的奖励和审慎选择的设计矩阵以高概率正确估计的支撑。Lasso-OD的第二阶段在该估计支撑上应用Yang和Tan(2022)的OD-LinBAI算法。我们通过仔细选择超参数(如Lasso的正则化参数)并平衡两阶段的错误概率,推导了Lasso-OD错误概率的非渐近上界。对于固定稀疏度和预算,Lasso-OD错误概率中的指数依赖于而不依赖于维度,为稀疏高维线性bandit带来了显著的性能提升。此外,我们证明Lasso-OD在指数上几乎是极小极大最优的。最后,我们提供数值例子以展示相较于现有非稀疏线性bandit算法(如OD-LinBAI、BayesGap、Peace、LinearExploration和GSE)的显著性能提升。
引用
@article{arxiv.2311.00481,
title = {Fixed-Budget Best-Arm Identification in Sparse Linear Bandits},
author = {Recep Can Yavas and Vincent Y. F. Tan},
journal= {arXiv preprint arXiv:2311.00481},
year = {2023}
}
备注
28 pages, Submitted to TMLR