关于广义信息度量的度数论定义与最大熵方案
信息论
2007-07-13 v1 math.IT
摘要
虽然在概率测度P上定义的数值熵在度数空间中,本身并不符合信息度量的定义(它并非离散情况的自然延伸),但最大熵(ME)在度数论情形下的方案是与离散情况一致的。在本文中,我们研究了广义信息度量的度数论定义,并讨论了ME方案。我们在此方面提出了两个结果:(i)我们证明了与经典相对熵的情况一样,广义相对熵的度数论定义,即Rényi 和 Tsallis 熵,是其各自离散情况的自然延伸;(ii)我们表明,度数论 Tsallis 熵的ME方案与离散情况相一致。
引用
@article{arxiv.cs/0601080,
title = {On Measure Theoretic definitions of Generalized Information Measures and Maximum Entropy Prescriptions},
author = {Ambedkar Dukkipati and M Narasimha Murty and Shalabh Bhatnagar},
journal= {arXiv preprint arXiv:cs/0601080},
year = {2007}
}