基于信息损失的熵的刻画
信息论
2017-08-22 v3 数学物理
math.IT
math.MP
量子物理
摘要
香农熵和Tsallis熵作为满足特定性质的信息度量已有大量刻画。利用Faddeev和Furuichi的工作，我们推导出一个非常简单的刻画。该刻画不关注有限集上概率测度的熵，而是关注与保测函数相关的“信息损失”或熵的变化。信息损失是条件熵的一个特例：即随机变量关于该变量的某个函数的条件熵。我们证明，香农熵是唯一满足函子性、凸线性性和连续性的信息损失概念。该刻画也自然推广到Tsallis熵。
引用
@article{arxiv.1106.1791,
title = {A Characterization of Entropy in Terms of Information Loss},
author = {John C. Baez and Tobias Fritz and Tom Leinster},
journal= {arXiv preprint arXiv:1106.1791},
year = {2017}
}
备注
11 pages LaTeX, minor revision