香农与切尔诺夫握手：信道信息度量的大数据视角
信息论
2017-01-13 v1 math.IT
摘要
香农熵是信息论最重要的基础，已被证明在通信等诸多领域有效。Renyi熵和Chernoff信息是另外两种流行的信息度量，应用广泛。互信息能有效度量信道信息，因为它反映了输出变量与输入变量之间的关系。本文中，我们通过ACE算法从大数据视角重新审视这些信道信息度量。仿真结果表明，香农互信息与Chernoff互信息关于信道参数的分解结果几乎相同。在这个意义上，香农与切尔诺夫握手，因为它们是同一信息量的不同度量。我们还提出一个猜想：信道信息具有仅由信道参数决定的性质。
引用
@article{arxiv.1701.03237,
title = {Shannon Shakes Hands with Chernoff: Big Data Viewpoint On Channel Information Measures},
author = {Shanyun Liu and Rui She and Jiaxun Lu and Pingyi Fan},
journal= {arXiv preprint arXiv:1701.03237},
year = {2017}
}
备注
6 pages, 5 figures