基于统计学习的时间序列预测：一般损失函数与快速收敛速率
统计理论
2012-11-12 v1 统计理论
摘要
我们利用基于 Oracle 不等式的统计学习方法，建立了时间序列预测中的收敛速率。一系列研究将针对独立同分布（iid）观测获得的 Oracle 不等式扩展到了弱依赖条件下的时间序列。给定一组预测器和个观测值，Oracle 不等式表明，某个预测器对序列的预测效果与族中最佳预测器相当，仅相差一个余项。利用 PAC-Bayesian 方法，我们在弱依赖条件下建立了具有最优收敛速率的 Oracle 不等式。我们将先前针对绝对损失函数的结果扩展到了任意 Lipschitz 损失函数，其速率为，其中衡量模型的复杂度。我们将该方法应用于分位数损失函数以预测法国 GDP。在损失函数（二次损失函数满足此条件）和时间序列的附加条件下，我们将收敛速率优化为。我们首次在一类混合过程中实现了这些快速速率。已知这些速率在 iid 情形和个体序列情形下是最优的。特别是，我们将 Dalalyan 和 Tsybakov 关于稀疏回归估计的结果推广到了自回归情形。
引用
@article{arxiv.1211.1847,
title = {Prediction of time series by statistical learning: general losses and fast rates},
author = {Pierre Alquier and Xiaoyin Li and Olivier Wintenberger},
journal= {arXiv preprint arXiv:1211.1847},
year = {2012}
}