通过增长专家集成适应非平稳性
机器学习
2011-06-30 v2 机器学习
数据分析、统计与概率
统计方法学
摘要
在处理具有复杂非平稳性的时间序列时,对单个实现实现低回顾遗憾比期望的低前瞻风险更为合适。在线学习算法提供了这种形式的强大保证,并且因其能够在不同预测器或“专家”之间切换,常被提议用于非平稳过程。然而,现有方法假设要组合其预测的专家集在开始时全部给定,这在处理真正的历史性或演化性系统时是不合理的。我们展示了如何修改用于追踪最佳专家的“固定份额”算法,以应对专家集稳步增长的情况——该专家集通过将新模型拟合到新数据(随着数据变得可用)而获得,并得到了增长集成下的遗憾界。
引用
@article{arxiv.1103.0949,
title = {Adapting to Non-stationarity with Growing Expert Ensembles},
author = {Cosma Rohilla Shalizi and Abigail Z. Jacobs and Kristina Lisa Klinkner and Aaron Clauset},
journal= {arXiv preprint arXiv:1103.0949},
year = {2011}
}
备注
9 pages, 1 figure; CMU Statistics Technical Report. v2: Added empirical example, revised discussion of related work