基于PPM及其他通用码的一类马尔可夫阶估计量
信息论
2020-03-24 v2 math.IT
摘要
我们研究了一类针对平稳遍历过程的马尔可夫阶估计量，该类估计量是对 Merhav、Gutman 和 Ziv 于 1989 年以及 Ryabko、Astola 和 Malyutov 于 2006 年和 2016 年所提构造的轻微修正。所有被考虑的估计量都将通用码给出的熵率估计值与字符串的经验条件熵进行比较，并返回使这两个量近似相等的阶。然而，我们称之为通用马尔可夫阶的修正满足一些上述作者未对其原始构造所展示的吸引人的性质。首先，通用马尔可夫阶在没有任何限制的情况下几乎必然一致。其次，它们渐近地以上界为字符串长度除以熵率的对数。第三，如果我们选择部分匹配预测(Prediction by Partial Matching, PPM)作为通用码，则长度等于通用马尔可夫阶的不同子串数量构成了块互信息的一个上界。因此，通用马尔可夫阶也可间接用于量化遍历过程的长期记忆。
引用
@article{arxiv.2003.04754,
title = {On a Class of Markov Order Estimators Based on PPM and Other Universal Codes},
author = {Łukasz Dębowski},
journal= {arXiv preprint arXiv:2003.04754},
year = {2020}
}
备注
17 pages, no figures. We thank Boris Ryabko for pointing out to us his very relevant references, which we failed to cite in the first draft of this paper. We apologize for this unintentional omission