独裁函数最大化互信息

Georg Pichler; Pablo Piantanida; Gerald Matz

独裁函数最大化互信息

信息论 2018-02-05 v3 math.IT 概率论

作者: Georg Pichler , Pablo Piantanida , Gerald Matz

摘要

设 $(\mathbf X, \mathbf Y)$ 表示两个任意相关的 Rademacher 随机变量 $(X, Y)$ 的 $n$ 个独立同分布副本。我们证明不等式 $I(f(\mathbf X); g(\mathbf Y)) \le I(X; Y)$ 对任意两个布尔函数 $f,g \colon \{-1,1\}^n \to \{-1,1\}$ 成立（ $I(\cdot; \cdot)$ 表示互信息）。我们进一步表明，一般而言等号仅由独裁函数 $f(\mathbf x)=\pm g(\mathbf x)=\pm x_i$ , $i \in \{1,2,\dots,n\}$ 达到。

关键词

互信息布尔函数独裁函数 Rademacher变量不等式信息论

引用

@article{arxiv.1604.02109,
  title  = {Dictator Functions Maximize Mutual Information},
  author = {Georg Pichler and Pablo Piantanida and Gerald Matz},
  journal= {arXiv preprint arXiv:1604.02109},
  year   = {2018}
}

备注

accepted for publication in the Annals of Applied Probability; 8 pages, 1 figure

独裁函数最大化互信息

摘要

关键词

引用

备注

相关论文