无约束域与损失的在线凸优化
机器学习
2017-03-09 v1 机器学习
摘要
我们提出了一种在线凸优化算法 (RescaledExp)，该算法在无约束设置下实现了最优遗憾，且无需预先知晓损失函数的任何界限。我们证明了一个下界，表明需要已知损失函数界限的现有算法的遗憾与不需要此类知识的任何算法之间存在指数级分离。RescaledExp 在迭代次数上渐近地匹配这一下界。RescaledExp 天然无需超参数，实证表明其性能可与需要超参数优化的先前优化算法相媲美。
引用
@article{arxiv.1703.02622,
title = {Online Convex Optimization with Unconstrained Domains and Losses},
author = {Ashok Cutkosky and Kwabena Boahen},
journal= {arXiv preprint arXiv:1703.02622},
year = {2017}
}