基于跟随扰动领导者策略的通用权重专家建议预测
机器学习
2007-05-23 v2 人工智能
摘要
在将聚合策略应用于专家建议预测时，学习率必须自适应调节。自然的选择 sqrt(complexity/current loss) 使得加权多数算法的衍生算法分析变得相当复杂。特别是，对于任意权重，迄今为止尚无已证明的结果。来自 Kalai (2003)（基于 Hannan 算法）的替代算法“跟随扰动领导者”（FPL）的分析则较为容易。我们推导了自适应学习率下的损失界，涵盖了具有均匀权重的有限专家类和具有任意权重的可数专家类。对于前者设定，我们的损失界与迄今已知的最优结果一致；而对于后者，据我们所知，我们的结果是全新的。
引用
@article{arxiv.cs/0405043,
title = {Prediction with Expert Advice by Following the Perturbed Leader for General Weights},
author = {Marcus Hutter and Jan Poland},
journal= {arXiv preprint arXiv:cs/0405043},
year = {2007}
}
备注
16 LaTeX pages