中文

可数无限字母表上 Rényi 熵的若干性质

信息论 2020-08-13 v2 math.IT

摘要

本文研究定义在 Z+\mathbb{Z}_+ 上概率分布空间中的 Rényi 熵泛函 Hα(P)H_\alpha(\mathcal{P}) 的若干性质,主要讨论连续性与收敛性问题。所揭示的某些性质与有限字母表情形下的已知结果类似,而另一些则展现了无限情形下 Rényi 熵截然不同的行为。特别地,本文证明:对任意分布 P\mathcal P 及任意 r[0,]r\in[0,\infty],存在一列在全变差距离意义下收敛于 P\mathcal{P} 的分布 Pn\mathcal{P}_n,使得 limnlimα1+Hα(Pn)=limα1+limnHα(Pn)+r\lim_{n\to\infty}\lim_{\alpha\to{1+}} H_\alpha(\mathcal{P}_n) = \lim_{\alpha\to{1+}}\lim_{n\to\infty} H_\alpha(\mathcal{P}_n) + r

关键词

引用

@article{arxiv.1106.5130,
  title  = {Some Properties of R\'{e}nyi Entropy over Countably Infinite Alphabets},
  author = {Mladen Kovačević and Ivan Stanojević and Vojin Šenk},
  journal= {arXiv preprint arXiv:1106.5130},
  year   = {2020}
}

备注

13 pages (single-column)