有谱隙与无谱隙马尔可夫链的最优预测

我们研究如下依赖数据的学习问题：观测一条来自具有 $k$ 个状态的平稳马尔可夫链的长度为 $n$ 的轨迹，目标是预测下一状态。对于 $3 \leq k \leq O(\sqrt{n})$，利用通用压缩技术，Kullback-Leibler散度下的最优预测风险为 $\Theta(\frac{k^2}{n}\log \frac{n}{k^2})$，而 Falahatgar 等人（2016）先前给出的 $k=2$ 的最优率为 $\Theta(\frac{\log \log n}{n})$。这些慢于参数率 $O(\frac{k^2}{n})$ 的速率可归因于数据中的记忆性，因为马尔可夫链的谱隙可任意小。为量化记忆效应，我们研究具有给定谱隙的不可约可逆链。除刻画两状态的最优预测风险外，我们证明只要谱隙不过分小，马尔可夫模型中的预测风险为 $O(\frac{k^2}{n})$，这与具有相同参数个数的独立同分布（iid）模型一致。我们也得到了向高阶马尔可夫链的推广。