中文

上下文推荐与低后悔割平面算法

机器学习 2021-06-10 v1 数据结构与算法 最优化与控制

摘要

我们考虑如下由导航引擎与推荐系统中的路由应用所驱动的上下文线性bandit变体。我们希望学习一个隐藏的dd维价值向量ww^*。每轮我们获得可能动作的一个子集XtRd\mathcal{X}_t \subseteq \mathbb{R}^d。若我们选择(即推荐给用户)动作xtx_t,则获得效用xt,w\langle x_t, w^* \rangle,但仅能得知最优动作argmaxxXtx,w\arg\max_{x \in \mathcal{X}_t} \langle x, w^* \rangle的身份。我们为该问题设计了一些算法,达到O(dlogT)O(d\log T)exp(O(dlogd))\exp(O(d \log d))的后悔值。为此,我们设计了具有低“后悔”的新颖割平面算法——即真实点ww^*与分离预言机返回的超平面之间的总距离。我们还考虑了允许提供若干推荐列表的变体;在此变体中,给出一种具有O(d2logd)O(d^2 \log d)后悔值与poly(d)\mathrm{poly}(d)列表大小的算法。最后,我们针对该问题的一个更弱变体构造了近乎紧的算法,其中学习器仅得知一个优于所推荐动作的动作身份。我们的结果依赖于凸几何中的新算法技术(包括凸集质心的Steiner公式变体),这些技术本身可能具有独立意义。

关键词

引用

@article{arxiv.2106.04819,
  title  = {Contextual Recommendations and Low-Regret Cutting-Plane Algorithms},
  author = {Sreenivas Gollapudi and Guru Guruganesh and Kostas Kollias and Pasin Manurangsi and Renato Paes Leme and Jon Schneider},
  journal= {arXiv preprint arXiv:2106.04819},
  year   = {2021}
}