中文

无记忆信道最优码的对数体积:渐近误差在几纳特以内

信息论 2016-12-28 v3 math.IT

摘要

Shannon 对无记忆通信信道基本容量极限的分析随着时间的推移得到了完善。本文证明了在平均解码错误概率为 ϵ\epsilon 的条件下,长度为 nn 的码的最大体积 M\avg(n,ϵ)M_\avg^*(n,\epsilon) 满足以下紧密的渐近上下界(当 nn \to \infty 时):Aϵ+o(1)logM\avg(n,ϵ)[nCnVϵQ1(ϵ)+12logn]Aϵ+o(1) \underline{A}_\epsilon + o(1) \le \log M_\avg^*(n,\epsilon) - [nC - \sqrt{nV_\epsilon} \,Q^{-1}(\epsilon) + \frac{1}{2} \log n] \le \overline{A}_\epsilon + o(1) 其中 CC 是 Shannon 容量,VϵV_\epsilonϵ\epsilon-信道离散度或二阶编码率,QQ 是正态分布的尾部概率,常数 Aϵ\underline{A}_\epsilonAϵ\overline{A}_\epsilon 已被明确识别。该表达式在信道的温和正则性假设(包括非奇异性)下成立。对于 Cover-Thomas 意义下的弱对称信道,间隙 AϵAϵ\overline{A}_\epsilon - \underline{A}_\epsilon 为 1 纳特;对于其他对称信道、二进制对称信道和 ZZ 信道,通常为几纳特。推导基于强的大偏差分析和精细的中心极限渐近分析。提出了一种达到下界的随机编码方案,其码字取自经 O(1/n)O(1/\sqrt{n}) 修正项修改后的达到容量的输入分布。

关键词

引用

@article{arxiv.1311.0181,
  title  = {The Log-Volume of Optimal Codes for Memoryless Channels, Asymptotically Within A Few Nats},
  author = {Pierre Moulin},
  journal= {arXiv preprint arXiv:1311.0181},
  year   = {2016}
}

备注

75 pages, 8 figures. This is the final version to appear in the IEEE Transactions on Information Theory, 2017