具有最优幂律的升级算法
信息论
2021-05-31 v2 math.IT
摘要
考虑一个信道 以及给定的输入分布 。在某些情形下,例如极化码构造中, 的输出字母表“过大”,因此我们用一个具有更小输出字母表的信道 来替代 。若 是由 经其输出处理得到,则称 相对于 是升级的。此时, 的输入与输出之间的互信息 被 的输入与输出之间的互信息 从上界限制。本文中,我们提出一种算法,作为 和 所需输出字母表大小(记为 )的函数,由 产生升级信道 。我们表明互信息之差“很小”。即,其为 ,其中 为输入字母表的大小。该 的幂律是最优的。我们以数值实验补充分析,表明所开发算法在非渐近设置下也优于现有最先进算法。
引用
@article{arxiv.2004.00869,
title = {An Upgrading Algorithm with Optimal Power Law},
author = {Or Ordentlich and Ido Tal},
journal= {arXiv preprint arXiv:2004.00869},
year = {2021}
}