基于带偏噪声梯度预言机的 (Bandit) 凸优化
机器学习
2020-07-07 v2 机器学习
摘要
Bandit 凸优化与在线学习的算法通常依赖于构造带噪梯度估计，随后将其用于适当调整的一阶算法中以替代真实梯度。根据待优化函数的性质以及 Bandit 反馈中“噪声”的本质，梯度估计的偏差与方差呈现出各种权衡。在本文中，我们提出了一个新颖的框架，该框架用抽象预言机替代了具体的梯度估计方法。借助这一新框架，我们统一了先前的工作，以清晰简洁的方式复现了它们的结果；而或许更重要的是，该框架还使我们能够正式证明，为了达到最优的根号 速率，使用现有梯度估计器的算法或用于分析它们的证明技术必须超越现有水平。
关键词
引用
@article{arxiv.1609.07087,
title = {(Bandit) Convex Optimization with Biased Noisy Gradient Oracles},
author = {Xiaowei Hu and Prashanth L. A. and András György and Csaba Szepesvári},
journal= {arXiv preprint arXiv:1609.07087},
year = {2020}
}