中文

遍历马尔可夫链混合时间的估计

统计理论 2022-08-17 v4 机器学习 机器学习 统计理论

摘要

我们研究从长度为 mm 的单条轨迹估计任意遍历有限状态马尔可夫链的混合时间 tmixt_{\mathsf{mix}} 的问题。可逆情形已由 Hsu 等人 [2019] 解决,他们将该一般情形留作开放问题。在可逆情形下,马尔可夫算子的自伴性极大便利了分析,且 Weyl 不等式允许对经验特征值进行与维数无关的扰动分析。正如 Hsu 等人指出,在缺乏可逆性时(其导致非对称配对概率矩阵),现有扰动分析对状态数 dd 具有最坏情形指数依赖。此外,即便存在对 dd 依赖更优的特征值扰动分析,在非可逆情形下谱隙与混合时间之间的联系也不像可逆情形下那样直接。我们的关键见解是转而估计伪谱隙 γps\gamma_{\mathsf{ps}},这使我们克服对称性的丧失,并对最小平稳概率 π\pi_\starγps\gamma_{\mathsf{ps}} 实现多项式依赖。此外,在可逆情形下,我们在 tmixt_{\mathsf{mix}} 和精度 ε\varepsilon 上同时获得近(至多对数因子)极小极大速率,弥补了 Hsu 等人将 ε\varepsilon 在下界中视为常数的缺口。最后,我们为 γps\gamma_{\mathsf{ps}} 构造了完全经验的置信区间,其以约 1/m1/\sqrt{m} 的速率收缩至零,即便在可逆情形下也改进了现有最优结果。

关键词

引用

@article{arxiv.1902.01224,
  title  = {Estimating the Mixing Time of Ergodic Markov Chains},
  author = {Geoffrey Wolfer and Aryeh Kontorovich},
  journal= {arXiv preprint arXiv:1902.01224},
  year   = {2022}
}

备注

COLT'19 conference manuscript, with minor fixes