中文

在线非凸学习:跟随扰动领导者是最优的

机器学习 2019-09-24 v2 最优化与控制 机器学习

摘要

我们研究具有非凸损失的在线学习问题,其中学习器可访问一个离线优化预言机。我们表明,经典的跟随扰动领导者(FTPL)算法在该设定下达到了O(T1/2)O(T^{-1/2})的最优后悔率。这改进了先前FTPL已知最佳后悔率O(T1/3)O(T^{-1/3})。我们进一步表明,当学习器遇到的损失序列具有“可预测性”时,FTPL的一种乐观变体取得了更好的后悔界。

关键词

引用

@article{arxiv.1903.08110,
  title  = {Online Non-Convex Learning: Following the Perturbed Leader is Optimal},
  author = {Arun Sai Suggala and Praneeth Netrapalli},
  journal= {arXiv preprint arXiv:1903.08110},
  year   = {2019}
}