具有输入约束信道中的信息耗散

信息论的基本原理之一——数据处理不等式指出，对于任何信道，输出散度不超过输入散度。对于无输入约束的信道，关于此类收缩量的各种估计是已知的，其中总变差的 Dobrushin 系数或许最为著名。本研究调查了具有平均输入成本约束的信道。研究发现，虽然收缩系数通常等于 1（无收缩），但信息仍然会耗散。本文提出了一种特定的非线性函数，即信道的\emph{Dobrushin 曲线}，用以量化耗散量。基于耦合论证，开发了评估加性噪声信道 Dobrushin 曲线的工具。讨论了在随机控制、Gibbs 测度唯一性以及噪声电路基本极限方面的一些基本应用。作为一个应用实例，研究表明，在由 $n$ 个功率受限中继和高斯信道组成的链路中，端到端互信息和最大平方相关性以 $\Theta(\frac{\log\log n}{\log n})$ 的速度衰减，这与离散信道链路中的指数衰减形成鲜明对比。同样，噪声电路（由扇入受限的门组成）的行为以及在树（有界度）上的信息广播不会在信噪比 (SNR) 上表现出阈值行为。也就是说，与离散信道的情况不同，无论信噪比如何，比特错误概率始终保持有界且不趋近于 $1\over 2$。