追踪缓慢移动的先知：带真实与噪声梯度的在线学习的最优动态后悔
机器学习
2016-05-17 v1 最优化与控制
机器学习
摘要
这项工作关注在线凸优化的动态后悔，该后悔将在线学习的性能与一位先知进行比较，该先知提前知道损失函数序列从而在每个步骤选择损失函数的最小化子。通过假设先知缓慢移动（即最小化子缓慢变化），我们给出了在真实与噪声梯度反馈下动态后悔的几个改进的基于变动量的上界，这些上界根据所给出的下界是最优的。我们分析的关键在于探索一种衡量先知最小化子时间变化的规律性度量，我们称之为路径变动。首先，我们给出关于路径变动的一般下界，然后表明在完全信息或梯度反馈下我们能够达到最优动态后悔。其次，我们给出带噪声梯度反馈的下界，然后表明我们可以在随机梯度反馈和两点bandit反馈下达到最优动态后悔。此外，对于梯度变动较小的光滑损失函数序列，我们在两点bandit反馈下的动态后悔与完全信息下取得的相匹配。
引用
@article{arxiv.1605.04638,
title = {Tracking Slowly Moving Clairvoyant: Optimal Dynamic Regret of Online Learning with True and Noisy Gradient},
author = {Tianbao Yang and Lijun Zhang and Rong Jin and Jinfeng Yi},
journal= {arXiv preprint arXiv:1605.04638},
year = {2016}
}
备注
Accepted by the 33rd International Conference on Machine Learning (ICML 2016)