贪心合并退化具有最优幂律
信息论
2017-05-09 v2 math.IT
摘要
考虑一个具有给定输入分布的信道。我们的目标是将其退化为一个至多具有 L 个输出字母的信道。这样一种退化方法即为所谓的“贪心合并”(greedy-merge)算法。我们推导了输入与输出之间互信息减少量的上界。对于固定的输入字母表大小和变化的 L,该上界与算法无关下界相差一个常数因子。因此,我们确立了贪心合并在幂律意义下是最优的。
引用
@article{arxiv.1701.02119,
title = {Greedy-Merge Degrading has Optimal Power-Law},
author = {Assaf Kartowsky and Ido Tal},
journal= {arXiv preprint arXiv:1701.02119},
year = {2017}
}
备注
5 pages, submitted to ISIT 2017