Jensen-Shannon 散度的非广延推广
信息论
2008-04-11 v1 math.IT
统计理论
统计理论
摘要
凸性是信息论中的一个关键概念，特别是通过 Jensen 不等式的诸多推论，例如 Kullback-Leibler 散度（KLD）的非负性。Jensen 不等式也是 Jensen-Shannon 散度（JSD）概念的基础，JSD 是 KLD 的对称化和平滑版本。本文通过扩展其两个构建模块：凸性和 Shannon 熵，引入了新型 JSD 类散度。特别是，引入了 q-凸性的新概念，并证明其满足 Jensen q-不等式。基于此 Jensen q-不等式，构建了 Jensen-Tsallis q-差，这是基于 Tsallis 熵的 JSD 的非广延推广。最后，从凸性和极值的角度对 Jensen-Tsallis q-差进行了刻画。
引用
@article{arxiv.0804.1653,
title = {Nonextensive Generalizations of the Jensen-Shannon Divergence},
author = {Andre Martins and Pedro Aguiar and Mario Figueiredo},
journal= {arXiv preprint arXiv:0804.1653},
year = {2008}
}
备注
Submitted to the IEEE Transactions on Information Theory