中文

单一优质来源即可胜出:关于异构噪声下的多臂老板近最优后悔

机器学习 2026-05-04 v2

摘要

我们研究了具有 MM 个异构数据源的 KK 臂多臂老板 (MAB) 问题,每个数据源均呈现未知且不同的噪声方差 {σj2}j=1M\{\sigma_j^2\}_{j=1}^M。学习者的目标是标准的 MAB 后悔最小化,同时需要在每个轮次自适应选择从哪个数据源查询。我们提出了源-乐观自适应后悔最小化 (SOAR) 方法,这是一种新型算法,通过尖锐的方差浓度边界快速剔除高方差来源,然后采用“平衡 min-max LCB-UCB 方法”无缝集成识别最佳臂和最优(最小方差)数据源的平行任务。我们的分析表明,SOAR 达到的实例相关后悔上界为 O~(σ2i=2KlogTΔi+Kj=1Mσj2)\tilde{O}\left({\sigma^*}^2\sum_{i=2}^K \frac{\log T}{\Delta_i} + \sqrt{K \sum_{j=1}^M \sigma_j^2}\right),其中 σ2:=minjσj2{\sigma^*}^2 := \min_j \sigma_j^2 为最小源方差,Δi\Delta_i 表示第 ii 臂的次优间隔。尽管缺乏对最小方差来源的先验知识,SOAR 仍能达到标准单源 MAB 的最优实例相关后悔,噪声为 σ2{\sigma^*}^2,仅增加 O~(Kj=1Mσj2)\tilde O(\sqrt{K \sum_{j=1}^M \sigma_j^2}) 的小的(且不可避免的)额外成本。我们的理论边界显著优于一些已提出的基线方法,如均匀 UCB 或探查后提交 UCB,它们可能以 σmax2\sigma_{\max}^2 取代 σ2{\sigma^*}^2 - 一个在 σmaxσ\sigma_{\max} \gg \sigma^* 时可以任意大的间隔。我们在多个合成问题实例和真实世界的 MovieLens 25M 数据集上进行实验,展示了 SOAR 在基线方法中的优越性能。

关键词

引用

@article{arxiv.2602.14474,
  title  = {One Good Source is All You Need: Near-Optimal Regret for Bandits under Heterogeneous Noise},
  author = {Amith Bhat and Haipeng Luo and Aadirupa Saha},
  journal= {arXiv preprint arXiv:2602.14474},
  year   = {2026}
}