中文

具有多对数极小极大遗憾的线性 Bandit

机器学习 2025-10-28 v2 人工智能 机器学习

摘要

我们研究了一种线性随机 Bandit 的噪声模型,其中当我们在单位球面上选择越来越接近未知向量的动作时,次高斯噪声参数线性消失。我们针对该问题提出了一种算法,其极小极大遗憾随时间视界 TTlog3(T)\log^3(T) 缩放,这与典型 Bandit 算法的平方根缩放形成鲜明对比。我们的策略基于加权最小二乘估计,通过与噪声模型无关且可能具有独立意义的几何论证,在每个时间步 tt 为设计矩阵 VtV_t 实现特征值关系 λmin(Vt)=Ω(λmax(Vt))\lambda_{\min} ( V_t ) = \Omega (\sqrt{\lambda_{\max}(V_t ) })。这使我们能够严格控制每个时间步的期望遗憾为 O(1t)O(\frac1{t}) 量级,从而导致累积遗憾的对数缩放。

关键词

引用

@article{arxiv.2402.12042,
  title  = {Linear bandits with polylogarithmic minimax regret},
  author = {Josep Lumbreras and Marco Tomamichel},
  journal= {arXiv preprint arXiv:2402.12042},
  year   = {2025}
}

备注

39 pages, 3 figures