中文

两个不同阶数间 Arimoto 条件 Rényi 熵的紧界

信息论 2020-08-24 v2 math.IT

摘要

本研究考察了固定另一个不同阶数 αβ\alpha \neq \beta 时,阶数为 β\beta 的 Arimoto 条件 Rényi 熵的紧界。Arimoto 启发了 Rényi 熵与概率分布 r\ell_{r}-范数之间的关系,并引入了 Rényi 熵的条件版本。从这个角度出发,我们分析了特定分布的 r\ell_{r}-范数。作为结果,我们确定了特定的概率分布,使其达到我们推导出的条件 Rényi 熵紧界。本研究中推导出的紧界可适用于其他信息度量,例如最小平均错误概率、Bhattacharyya 参数、Gallager 可靠性函数 E0E_{0} 以及 Sibson α\alpha-互信息,这些都是条件 Rényi 熵的严格单调函数。

关键词

引用

@article{arxiv.1702.00014,
  title  = {Sharp Bounds on Arimoto's Conditional R\'{e}nyi Entropies Between Two Distinct Orders},
  author = {Yuta Sakai and Ken-ichi Iwata},
  journal= {arXiv preprint arXiv:1702.00014},
  year   = {2020}
}

备注

61 pages, 6 figures; typos added, references added for Section V; A brief version of this paper was submitted to the 2017 IEEE International Symposium on Information Theory (ISIT2017)