中文

利用多路偏好实现更快收敛

机器学习 2023-12-20 v1 最优化与控制

摘要

我们研究带有偏好反馈的凸优化问题,其目标是在给定较弱形式的比较查询下最小化一个凸函数。每次查询包含两个点,对决反馈返回这两个查询点函数值的(含噪)单比特二元比较。此处我们考虑基于符号函数的比较反馈模型,并分析批量比较与多路比较(查询点集合的 argmin)的收敛速率。我们的主要目标是理解基于符号反馈的优化问题中由并行化带来的收敛速率提升。我们的工作是首次研究带有多路偏好的凸优化问题并分析其最优收敛速率。我们的首个贡献是设计了高效算法,在 mm-批量偏好反馈下实现了 O~(dmin{m,d}ϵ)\smash{\widetilde O}(\frac{d}{\min\{m,d\} \epsilon}) 的收敛速率,其中学习者可以并行查询 mm 对点。接着我们研究 mm-多路比较(“对战”)反馈,其中学习者可以获得查询点 mm-子集的 argmin 反馈,并证明其收敛速率为 O~(dmin{logm,d}ϵ)\smash{\widetilde O}(\frac{d}{ \min\{\log m,d\}\epsilon })。我们证明在强凸性的额外假设下可以进一步提升收敛速率。最后,我们还研究了批量偏好与多路反馈优化的收敛下界,证明了我们的收敛速率关于 mm 的最优性。

关键词

引用

@article{arxiv.2312.11788,
  title  = {Faster Convergence with Multiway Preferences},
  author = {Aadirupa Saha and Vitaly Feldman and Tomer Koren and Yishay Mansour},
  journal= {arXiv preprint arXiv:2312.11788},
  year   = {2023}
}