条件香农熵与 $\ell_{\alpha}$-范数期望之间的关系
信息论
2020-08-24 v1 math.IT
摘要
本文研究了联合概率分布的条件香农熵与 -范数期望之间的关系。更精确地,我们研究了在固定条件香农熵下 -范数期望的紧界,反之亦然。作为结果的应用,我们推导了条件香农熵与几个由 -范数期望决定的信息度量之间的紧界,例如条件 Rényi 熵和条件 -范数信息。此外,我们将这些结果应用于均匀输入分布下的离散无记忆信道。然后,我们展示了在均匀输入分布下固定互信息时 Gallager 的 函数的紧界。
引用
@article{arxiv.1602.04577,
title = {Relations Between Conditional Shannon Entropy and Expectation of $\ell_{\alpha}$-Norm},
author = {Yuta Sakai and Ken-ichi Iwata},
journal= {arXiv preprint arXiv:1602.04577},
year = {2020}
}
备注
a short version was submitted to ISIT'2016