删余界及其统计力学解释的再探讨
信息论
2013-01-18 v1 统计力学
math.IT
摘要
我们使用类型类枚举方法重新审视了删余错误指数的推导,该方法受统计力学方法启发,并已在其他几种场景的随机编码指数推导中被使用。我们将我们的删余界版本与 Gallager 的版本以及 Csiszar、Korner 和 Marton (CKM) 的版本进行了比较。对于有限字母表上固定成分码的删余系综,我们的基本删余界与 CKM 删余界一致,后者通常比 Gallager 界更紧,但在最优码字类型类处二者相等。然而,我们的方法超越了固定成分码和有限字母表,适用于自然施加输入约束(例如功率限制)的情形。在这些情况下,CKM 删余界可能无法直接适用,而我们的界通常比 Gallager 界更紧。此外,虽然 CKM 和 Gallager 删余界均基于用于界定成对错误概率的 Bhattacharyya 界,但我们的界允许使用更一般的 Chernoff 距离度量,从而通过将 Chernoff 参数作为待优化的自由度带来了额外的改进。
引用
@article{arxiv.1301.4117,
title = {Another look at expurgated bounds and their statistical-mechanical interpretation},
author = {Neri Merhav},
journal= {arXiv preprint arXiv:1301.4117},
year = {2013}
}
备注
18 pages, submitted to IEEE Trans. on Inform. Theory