f-散度收缩系数间的线性界限

Anuran Makur; Lizhong Zheng

f-散度收缩系数间的线性界限

信息论 2018-07-17 v4 math.IT 概率论统计理论统计理论

作者: Anuran Makur , Lizhong Zheng

摘要

利用称为“收缩系数”的常数可以改进 $f$ -散度的数据处理不等式，从而得到强数据处理不等式。对于任一离散源-信道对， $f$ -散度的收缩系数以 $\chi^2$ -散度的收缩系数为下界。本文中，我们阐明通过将该收缩系数的输入 $f$ -散度驱至零可实现此下界。进而，我们利用 $\chi^2$ -散度的收缩系数为某类 $f$ -散度建立了收缩系数的线性上界，并针对库尔巴克-莱布勒（KL）散度这一显著特例细化了该上界。此外，我们给出了以下事实的另一种证明：对于具有加性高斯噪声信道的高斯源（其中前一种系数可受功率约束），KL 与 $\chi^2$ -散度的收缩系数相等。最后，我们将著名结果推广：对于所有具有非线性算子凸 $f$ 的 $f$ -散度，信道（对所有可能源取极值后）的收缩系数均相等。特别地，我们证明了信道上所谓的“较不噪”预序可由任意非线性算子凸 $f$ -散度等价刻画。

关键词

收缩系数 f-散度数据处理不等式卡方散度库尔巴克-莱布勒散度高斯信道算子凸较不噪预序

引用

@article{arxiv.1510.01844,
  title  = {Linear Bounds between Contraction Coefficients for $f$-Divergences},
  author = {Anuran Makur and Lizhong Zheng},
  journal= {arXiv preprint arXiv:1510.01844},
  year   = {2018}
}

备注

Part of this work has been published in the 53rd Annual Allerton Conference on Communication, Control, and Computing, 2015. This version includes an overview of contraction coefficients as well as some new results

f-散度收缩系数间的线性界限

摘要

关键词

引用

备注

相关论文