关于单个序列码长的经验累积生成函数
信息论
2016-05-05 v1 math.IT
摘要
我们从码长的经验累积生成函数（CGF，即指数化码长的经验平均的归一化对数）的最佳可实现性角度，考虑使用有限状态（FS）机对单个序列进行无损压缩的问题。由于概率性CGF是根据信源的R\'enyi熵来最小化的，本研究的动机之一是推导R\'enyi熵的单个序列类似物，正如FS可压缩性是香农熵的单个序列对应物那样。我们同时从固定到可变（F-V）长度编码和可变到可变（V-V）长度编码的角度考虑码长的CGF，其中后者产生了更好的结果，且与FS可压缩性一致。我们还将结果扩展到在编码器和解码器处均可获得的边信息下的压缩。在这种情况下，V-V版本不再与FS可压缩性一致，而是产生了不同的复杂度度量。
引用
@article{arxiv.1605.01182,
title = {On empirical cumulant generating functions of code lengths for individual sequences},
author = {Neri Merhav},
journal= {arXiv preprint arXiv:1605.01182},
year = {2016}
}
备注
15 pages; submitted for publication