多数表决集成的 Minimax 最优性与马尔可夫依赖下的谱路由

多数表决集成通过对多个多样且近似独立的基学习器进行平均，以实现方差缩减。当训练数据 exhibits 马尔可夫依赖时（如时间序列预测、强化学习回放缓冲区和空间网格中），这一经典保证的保证在现有理论未能完全量化的情况下会恶化。我们为离散分类在固定维度马尔可夫设置下提供了该现象的 minimax 描述，并提出了匹配该速率的自适应算法。我们首先在固定环境维度下的平稳、可逆、几何 Ergodic 链上建立了信息论下界，表明不存在可测估器能实现超过 $\Omega(\sqrt{\Tmix/n})$ 的剩余分类风险。随后我们证明，在构成下界构造的 AR(1) 证据子集上，依赖不可感知的统一包装在剩余风险下界为 $\Omega(\Tmix/\sqrt{n})$，展现出 $\sqrt{\Tmix}$ 的算法间隙。最后，我们提出\emph{自适应谱路由}，通过经验 Fiedler 特征向量对训练数据进行分区，实现了在图规则子集上达到 minimax 速率 $\mathcal{O}(\sqrt{\Tmix/n})$（含次要几何切割项），且无需知道 $\Tmix$。在合成马尔可夫链、2D 空间网格、128 数据集 UCR 归档以及 Atari DQN 集成中进行实验，验证了理论预测。图 6.4.1 附录中开发了关于深度 RL 目标方差、通过 Nystr"om 近似实现可扩展性以及有界非平稳性的后果。