使用固定份额在隐马尔可夫模型之间切换
机器学习
2010-08-27 v1
摘要
在专家建议预测中，目标是设计在线预测算法，使其与参考方案相比实现较小的遗憾（在整个数据上的额外损失）。在最简单的此类方案中，比较的是事后最佳专家的损失。一个更雄心勃勃的目标是将数据分割成若干段，并与每段上的最佳专家进行比较。如果数据的性质在段之间发生变化，这是合适的。标准的固定份额算法速度快，并且与该方案相比实现了较小的遗憾。固定份额将专家视为黑箱：不假设它们如何生成预测。但如果专家在学习，就会出现以下问题：专家应该从所有数据中学习，还是只从自己段内的数据中学习？原始算法自然地处理了第一种情况。这里我们考虑第二种选择，当数据的性质在段之间发生变化时，这更为合适。通常，将固定份额扩展到第二种情况会使其在T个结果上慢T倍。然而，我们表明，如果专家是隐马尔可夫模型，则不需要这种减速。
引用
@article{arxiv.1008.4532,
title = {Switching between Hidden Markov Models using Fixed Share},
author = {Wouter M. Koolen and Tim van Erven},
journal= {arXiv preprint arXiv:1008.4532},
year = {2010}
}