利用无序性获益：无序数据的信源编码
信息论
2007-08-20 v1 math.IT
摘要
字母的顺序在通信任务中并非总是相关的。本文讨论了顺序无关性对信源编码的影响，并展示了信源编码理论几个主要分支的结果：无损编码、通用无损编码、率失真、高率量化以及通用有损编码。主要结论表明，当顺序无关时，可以显著节省码率。特别是，对来自有限字母表的 n 个字母进行无损编码需要 Theta(log n) 比特，而对许多可数字母表信源进行通用无损编码则需要 n + o(n) 比特。然而，不存在能将强冗余度量驱动为零的通用方案。有损编码的结果包括各种高率量化方案中因顺序无关性而产生的码率节省的无分布表达式。文中给出了率失真界，并表明香农下界的类比在所有有限码率下都是宽松的。
引用
@article{arxiv.0708.2310,
title = {Benefiting from Disorder: Source Coding for Unordered Data},
author = {Lav R. Varshney and Vivek K. Goyal},
journal= {arXiv preprint arXiv:0708.2310},
year = {2007}
}
评论
35 pages