中文

高斯噪声信道下的 $\alpha$-互信息

信息论 2026-04-14 v1 math.IT 统计理论 统计理论

摘要

本文研究了在高斯噪声信道背景下 Sibson 的 α\alpha-互信息。虽然经典情形 α=1\alpha=1 已被充分理解,并与估计理论量(如最小均方误差 MMSE 和 Fisher 信息)存在深刻联系,但对于一般 α\alpha 的相应结构性质仍鲜有探索。本文旨在系统化地理解高斯噪声环境下的 α\alpha-互信息,并识别哪些性质可超越香农情形延伸。为此,我们建立了若干规律性质,包括 finiteness 条件、关于信噪比 (SNR) 和输入分布的连续性,以及确保关联优化问题唯一性的严格concavity/convexity性质。核心贡献是发展 α\alpha-I-MMSE 关系,推广经典身份,将 α\alpha-互信息关于 SNR 的导数与在适当倾斜分布下评估的 MMSE 关联。该关系进一步导致广义 de Bruijn 身份和 R\'enyi 熵及微分 R\'enyi 熵的新的估计理论表示。我们还 characterize 了低 SNR 和高 SNR 行为。在低 SNR 条件下,一阶行为仅取决于输入方差。在高 SNR 条件下,对于离散输入,α\alpha-互信息收敛于阶为 1/α1/\alpha 的 R\'enyi 熵;对于一般输入,我们将其与 α\alpha-信息维度联系起来。总体而言,本文表明许多信息与估计之间的基本关系可在涉及 α\alpha-倾斜分布的形式下延伸至香农之外。

关键词

引用

@article{arxiv.2604.10922,
  title  = {$\alpha$-Mutual Information for the Gaussian Noise Channel},
  author = {Mohammad Milanian and Alex Dytso and Martina Cardone},
  journal= {arXiv preprint arXiv:2604.10922},
  year   = {2026}
}