词值信源:遍历定理、渐近等分性与熵守恒
信息论
2009-04-27 v1 math.IT
摘要
词值信源 是一个离散随机过程,它通过使用码本 中的码字顺序编码随机过程 的符号而形成。这些过程在信息论中经常出现(特别是在信源编码算法的分析中),因此给出 和 的条件,使得 满足遍历定理并具有渐近等分性(AEP),是很有意义的。在这篇通信中,我们证明了以下两点:(1)如果 是渐近均值平稳的,那么 将满足逐点遍历定理并具有 AEP;(2)如果码本 是无前缀的,那么 的熵率等于 的熵率除以平均码字长度。
引用
@article{arxiv.0904.3778,
title = {Word-Valued Sources: an Ergodic Theorem, an AEP and the Conservation of Entropy},
author = {Roy Timo and Kim Blackmore and Leif Hanlen},
journal= {arXiv preprint arXiv:0904.3778},
year = {2009}
}
备注
21 pages