关于高维低秩张量 bandits
机器学习
2023-05-09 v1 信息论
机器学习
信号处理
math.IT
摘要
现有关于线性 bandits 的研究多聚焦于整体系统的单维刻画。尽管具有代表性，该表述可能无法建模具有高分结构（如推荐系统的低秩张量表示）的应用。为克服此局限，本文研究一类通用张量 bandits 模型，其中动作与系统参数以张量而非向量表示，我们特别关注未知系统张量为低秩的情形。我们开发了名为 TOFU（Tensor Optimism in the Face of Uncertainty，面对不确定性的张量乐观）的新颖 bandit 算法。TOFU 首先利用灵活的张量回归技术估计与系统张量相关的低维子空间。这些估计随后被用于将原问题转化为对其系统参数具范数约束的新问题。最后，TOFU 采用范数约束 bandit 子程序，利用这些约束避免探索整个高维参数空间。理论分析表明，TOFU 将最佳已知后悔上界改进了一个随系统阶数指数增长的乘性因子。我们还建立了一个新的性能下界，进一步印证了 TOFU 的高效性。
引用
@article{arxiv.2305.03884,
title = {On High-dimensional and Low-rank Tensor Bandits},
author = {Chengshuai Shi and Cong Shen and Nicholas D. Sidiropoulos},
journal= {arXiv preprint arXiv:2305.03884},
year = {2023}
}
备注
Accepted to the 2023 IEEE International Symposium on Information Theory (ISIT 2023)