中文

具有最优幂律的升级算法

信息论 2021-05-31 v2 math.IT

摘要

考虑一个信道 WW 以及给定的输入分布 PXP_X。在某些情形下,例如极化码构造中,WW 的输出字母表“过大”,因此我们用一个具有更小输出字母表的信道 QQ 来替代 WW。若 WW 是由 QQ 经其输出处理得到,则称 QQ 相对于 WW 是升级的。此时,WW 的输入与输出之间的互信息 I(PX,W)I(P_X,W)QQ 的输入与输出之间的互信息 I(PX,Q)I(P_X,Q) 从上界限制。本文中,我们提出一种算法,作为 PXP_XQQ 所需输出字母表大小(记为 LL)的函数,由 WW 产生升级信道 QQ。我们表明互信息之差“很小”。即,其为 O(L2/(X1))O(L^{-2/(|\mathcal{X}|-1)}),其中 X|\mathcal{X}| 为输入字母表的大小。该 LL 的幂律是最优的。我们以数值实验补充分析,表明所开发算法在非渐近设置下也优于现有最先进算法。

关键词

引用

@article{arxiv.2004.00869,
  title  = {An Upgrading Algorithm with Optimal Power Law},
  author = {Or Ordentlich and Ido Tal},
  journal= {arXiv preprint arXiv:2004.00869},
  year   = {2021}
}