重访线性带宽中的矩阵抽样:通过二元块抽样实现亚线性 regret
机器学习
2026-03-02 v2 机器学习
摘要
线性带宽已成为在线学习和顺序决策中的基石,为在探索与利用之间提供坚实的理论基础。在此领域中,矩阵抽样是实现计算效率的关键组件,特别是在面对高维问题实例时。抽样方法将每轮复杂度从 降低到 ,其中 为维度, 为抽样规模。然而,这种计算效率伴随着根本性的缺陷:当流式矩阵呈现强烈谱尾时,这类算法可能导致 vacuous(线性)regret。本文重新审视基于抽样的线性带宽的 regret 上界和算法设计。我们的分析表明,过度的抽样规模会导致显著的谱误差,严重削弱 regret 保证。为克服此问题,我们提出 Dyadic Block Sketching(二元块抽样),一种新型多尺度矩阵抽样方法,能够在学习过程中动态调整抽样规模。我们将此技术应用于线性带宽,证明新算法无需事先了解流式矩阵属性即可实现亚线性 regret 上界。它建立了一种通用的高效抽样线性带宽框架,可与任何提供协方差保证的矩阵抽样方法集成。全面的实验评估表明,我们的方法在效用-效率之间实现了优越的权衡。
关键词
引用
@article{arxiv.2410.10258,
title = {Revisiting Matrix Sketching in Linear Bandits: Achieving Sublinear Regret via Dyadic Block Sketching},
author = {Dongxie Wen and Hanyan Yin and Xiao Zhang and Peng Zhao and Lijun Zhang and Zhewei Wei},
journal= {arXiv preprint arXiv:2410.10258},
year = {2026}
}
备注
Accepted by ICLR 2026