高效低秩矩阵估计、实验设计及依赖臂集的低秩 Bandit
机器学习
2024-06-11 v2 机器学习
摘要
我们研究低秩矩阵迹回归及相关低秩矩阵 Bandit 问题。假设可获得协变量的分布，我们提出了一种名为 LowPopArt 的新型低秩矩阵估计方法，并提供了其恢复保证，该保证依赖于一个记为 B(Q) 的新颖量，用于刻画问题的难度，其中 Q 是测量分布的协方差矩阵。我们表明，在多个问题中，我们的方法能提供比经典核范数惩罚最小二乘法（Koltchinskii 等人，2011）更紧的恢复保证。为了利用任意给定测量集 A 中的有限测量次数进行高效估计，我们还提出了一种新的实验设计准则，以计算高效的方式最小化 B(Q)。我们利用这一新颖估计量和实验设计，推导出了两种适用于一般臂集的低秩线性 Bandit 算法，它们享有改进的遗憾上界。这改进了先前关于低秩 Bandit 的工作，后者做出了一些限制性假设，即臂集为单位球或给出了高效的探索分布。据我们所知，我们的实验设计准则是首个专为低秩矩阵估计量身定制的准则，超越了简化为线性回归的天真方法，具有独立的研究价值。
引用
@article{arxiv.2402.11156,
title = {Efficient Low-Rank Matrix Estimation, Experimental Design, and Arm-Set-Dependent Low-Rank Bandits},
author = {Kyoungseok Jang and Chicheng Zhang and Kwang-Sung Jun},
journal= {arXiv preprint arXiv:2402.11156},
year = {2024}
}