中文

关于广义信息度量的度数论定义与最大熵方案

信息论 2007-07-13 v1 math.IT

摘要

虽然在概率测度P上定义的数值熵X\udP\udμln\udP\udμ\udμ - \int_{X} \frac{\ud P}{\ud \mu} \ln \frac{\ud P}{\ud\mu} \ud \mu在度数空间(X,M,μ)(X, \mathfrak{M},\mu)中,本身并不符合信息度量的定义(它并非离散情况的自然延伸),但最大熵(ME)在度数论情形下的方案是与离散情况一致的。在本文中,我们研究了广义信息度量的度数论定义,并讨论了ME方案。我们在此方面提出了两个结果:(i)我们证明了与经典相对熵的情况一样,广义相对熵的度数论定义,即Rényi 和 Tsallis 熵,是其各自离散情况的自然延伸;(ii)我们表明,度数论 Tsallis 熵的ME方案与离散情况相一致。

关键词

引用

@article{arxiv.cs/0601080,
  title  = {On Measure Theoretic definitions of Generalized Information Measures and Maximum Entropy Prescriptions},
  author = {Ambedkar Dukkipati and M Narasimha Murty and Shalabh Bhatnagar},
  journal= {arXiv preprint arXiv:cs/0601080},
  year   = {2007}
}