基于优超理论的Fano不等式在条件信息度量上的推广
信息论
2020-08-04 v7 math.IT
摘要
Fano不等式是信息论中最基本、最普遍且最重要的工具之一。利用优超理论，我们将Fano不等式推广到一类广泛的信息度量，其中包含Shannon和Rényi的度量。当专门应用于这些度量时，它恢复并推广了经典不等式。推导的关键在于构造一个适当的条件分布，其在可数无限字母表上诱导出所需的边际分布。该构造基于Révész [Acta Math. Hungar. 1962, 3, 188–198]证明的无限维Birkhoff定理，且保持所需边际分布的约束类似于概率论中的耦合。利用我们针对Shannon和Rényi信息度量的Fano型不等式，我们还研究了当错误概率趋于零时Shannon和Rényi含糊度的序列渐近行为。该渐近行为通过Fano不等式为渐近等分性质(AEP)提供了一种新的刻画。
引用
@article{arxiv.1801.02876,
title = {Generalizations of Fano's Inequality for Conditional Information Measures via Majorization Theory},
author = {Yuta Sakai},
journal= {arXiv preprint arXiv:1801.02876},
year = {2020}
}
备注
44 pages, 3 figures