冻结与休眠：追踪通过演化过去后验来学习的专家
机器学习
2010-08-30 v1
摘要
Freund 提出的一个问题是如何高效地从一个大得多的专家集合中追踪一小部分专家。当 Bousquet 和 Warmuth 在 2001 年引入他们的混合过去后验 (MPP) 算法时，这个问题得到了解决。在 Freund 的问题中，专家通常被视为黑箱。然而，在本文中，我们重新审视了当专家具有使其能够学习的内部结构时的 Freund 问题。在这种情况下，问题有两种可能的解释：专家应该从所有数据中学习，还是仅从它们被追踪的子序列中学习？MPP 算法解决了第一种情况。我们的贡献是将 MPP 推广以处理第二种选择。我们获得的结果适用于任何可以使用（专家）隐马尔可夫模型形式化的专家结构。奇怪的是，对于我们的解释，存在两种自然的参考方案：冻结和休眠。对于每种方案，我们提供了一种高效的预测策略，并证明了相关的损失界。
引用
@article{arxiv.1008.4654,
title = {Freezing and Sleeping: Tracking Experts that Learn by Evolving Past Posteriors},
author = {Wouter M. Koolen and Tim van Erven},
journal= {arXiv preprint arXiv:1008.4654},
year = {2010}
}