中文

条件香农熵与 $\ell_{\alpha}$-范数期望之间的关系

信息论 2020-08-24 v1 math.IT

摘要

本文研究了联合概率分布的条件香农熵与 α\ell_{\alpha}-范数期望之间的关系。更精确地,我们研究了在固定条件香农熵下 α\ell_{\alpha}-范数期望的紧界,反之亦然。作为结果的应用,我们推导了条件香农熵与几个由 α\ell_{\alpha}-范数期望决定的信息度量之间的紧界,例如条件 Rényi 熵和条件 RR-范数信息。此外,我们将这些结果应用于均匀输入分布下的离散无记忆信道。然后,我们展示了在均匀输入分布下固定互信息时 Gallager 的 E0E_{0} 函数的紧界。

关键词

引用

@article{arxiv.1602.04577,
  title  = {Relations Between Conditional Shannon Entropy and Expectation of $\ell_{\alpha}$-Norm},
  author = {Yuta Sakai and Ken-ichi Iwata},
  journal= {arXiv preprint arXiv:1602.04577},
  year   = {2020}
}

备注

a short version was submitted to ISIT'2016