关于微分熵的概率上界
信息论
2007-07-13 v1 math.IT
摘要
提出了一种针对未知一维分布的熵的新型非平凡概率上界,仅需该分布的支撑范围及其样本。无需除该分布支撑范围外的其他知识,也无需该分布具有密度。使用针对给定样本的随机变量累积分布函数的先前无分布上界来构建该上界。提供了一个简单、快速且直观的算法,从样本中计算熵上界。
引用
@article{arxiv.cs/0504091,
title = {A Probabilistic Upper Bound on Differential Entropy},
author = {Joseph DeStefano and Erik Learned-Miller},
journal= {arXiv preprint arXiv:cs/0504091},
year = {2007}
}