霍夫曼码与香农-范诺码的竞争优势
信息论
2024-04-11 v3 math.IT
摘要
对任意有限离散信源,前缀码 相对于前缀码 的竞争优势为 产生比 更短码字的概率减去 产生比 更短码字的概率。对任意信源,若某前缀码相对于所有其他前缀码均具有非负竞争优势,则称其为竞争最优的。1991年,Cover 证明了对所有二进信源(即符号概率为 的负整数次幂的信源)霍夫曼码是竞争最优的。我们证明了如下渐近逆定理:随着信源规模增大,随机选取的非二进信源的霍夫曼码为竞争最优的概率收敛于零。我们还证明:(i) 对任意非二进信源,霍夫曼码相对于香农-范诺码具有正竞争优势;(ii) 对任意信源,任意前缀码相对于霍夫曼码的竞争优势严格小于 ;(iii) 对每个整数 ,存在一个规模为 的信源及某前缀码,其相对于霍夫曼码的竞争优势可任意接近 ;(iv) 对每个正整数 ,存在一个规模为 的信源及某前缀码,其相对于香农-范诺码的竞争优势随 可任意接近 。
引用
@article{arxiv.2311.07009,
title = {Competitive Advantage of Huffman and Shannon-Fano Codes},
author = {Spencer Congero and Kenneth Zeger},
journal= {arXiv preprint arXiv:2311.07009},
year = {2024}
}