参数信源通用一对一压缩的精细渐近分析
信息论
2016-12-21 v1 math.IT
摘要
针对指数族分布，考虑短分组长度下的通用信源编码。此前已证明，对于有限字母表上所有无记忆信源的通用压缩，类型大小码（Type Size code）在三阶速率下是最优的。类型大小码根据序列的类型类大小，将其映射到按字典序排列的二进制串。为了将这种类型类方法推广到参数信源，一种自然的方案是定义两个序列属于同一类型类，当且仅当它们在参数类中的任何模型下都是等概率的。然而，这一自然方法被证明是次优的。我们引入类型大小码的一种变体，其中类型类基于最小充分统计量的邻域来定义。推导了该变体溢出率的渐近性质，并通过逆命题确立了其在三阶项下的最优性。这些结果针对独立同分布信源以及马尔可夫信源的参数族导出。
引用
@article{arxiv.1612.06448,
title = {Fine Asymptotics for Universal One-to-One Compression of Parametric Sources},
author = {Nematollah Iri and Oliver Kosut},
journal= {arXiv preprint arXiv:1612.06448},
year = {2016}
}
备注
The paper has been submitted to IEEE Transactions on Information Theory