高斯噪声信道下的 $\alpha$-互信息
信息论
2026-04-14 v1 math.IT
统计理论
统计理论
摘要
本文研究了在高斯噪声信道背景下 Sibson 的 -互信息。虽然经典情形 已被充分理解,并与估计理论量(如最小均方误差 MMSE 和 Fisher 信息)存在深刻联系,但对于一般 的相应结构性质仍鲜有探索。本文旨在系统化地理解高斯噪声环境下的 -互信息,并识别哪些性质可超越香农情形延伸。为此,我们建立了若干规律性质,包括 finiteness 条件、关于信噪比 (SNR) 和输入分布的连续性,以及确保关联优化问题唯一性的严格concavity/convexity性质。核心贡献是发展 -I-MMSE 关系,推广经典身份,将 -互信息关于 SNR 的导数与在适当倾斜分布下评估的 MMSE 关联。该关系进一步导致广义 de Bruijn 身份和 R\'enyi 熵及微分 R\'enyi 熵的新的估计理论表示。我们还 characterize 了低 SNR 和高 SNR 行为。在低 SNR 条件下,一阶行为仅取决于输入方差。在高 SNR 条件下,对于离散输入,-互信息收敛于阶为 的 R\'enyi 熵;对于一般输入,我们将其与 -信息维度联系起来。总体而言,本文表明许多信息与估计之间的基本关系可在涉及 -倾斜分布的形式下延伸至香农之外。
引用
@article{arxiv.2604.10922,
title = {$\alpha$-Mutual Information for the Gaussian Noise Channel},
author = {Mohammad Milanian and Alex Dytso and Martina Cardone},
journal= {arXiv preprint arXiv:2604.10922},
year = {2026}
}