中文

词值信源:遍历定理、渐近等分性与熵守恒

信息论 2009-04-27 v1 math.IT

摘要

词值信源 Y=Y1,Y2,...\mathbf{Y} = Y_1,Y_2,... 是一个离散随机过程,它通过使用码本 C\mathscr{C} 中的码字顺序编码随机过程 X=X1,X2,...\mathbf{X} = X_1,X_2,... 的符号而形成。这些过程在信息论中经常出现(特别是在信源编码算法的分析中),因此给出 X\mathbf{X}C\mathscr{C} 的条件,使得 Y\mathbf{Y} 满足遍历定理并具有渐近等分性(AEP),是很有意义的。在这篇通信中,我们证明了以下两点:(1)如果 X\mathbf{X} 是渐近均值平稳的,那么 Y\mathbf{Y} 将满足逐点遍历定理并具有 AEP;(2)如果码本 C\mathscr{C} 是无前缀的,那么 Y\mathbf{Y} 的熵率等于 X\mathbf{X} 的熵率除以平均码字长度。

关键词

引用

@article{arxiv.0904.3778,
  title  = {Word-Valued Sources: an Ergodic Theorem, an AEP and the Conservation of Entropy},
  author = {Roy Timo and Kim Blackmore and Leif Hanlen},
  journal= {arXiv preprint arXiv:0904.3778},
  year   = {2009}
}

备注

21 pages