中文

对数凹随机向量的微分熵下界及其应用

信息论 2018-04-04 v3 math.IT

摘要

我们根据对数凹随机变量 XXpp 阶绝对矩推导了 XX 的微分熵下界。该新界限导出了具有显式常数的逆熵幂不等式,以及率失真函数和信道容量的新界限。具体地,我们研究了对数凹信源和失真度量 xx^r| x - \hat x|^r 的率失真函数,并确定率失真函数与香农下界之间的差异至多为 log(πe)1.5\log(\sqrt{\pi e}) \approx 1.5 比特,与 rr 和目标失真 dd 无关。对于均方误差失真,该差异至多为 log(πe2)1\log (\sqrt{\frac{\pi e}{2}}) \approx 1 比特,与 dd 无关。我们还给出了当噪声为对数凹时无记忆加性噪声信道容量的界限。我们表明,此类信道的容量与具有相同噪声功率的高斯信道容量之间的差异至多为 log(πe2)1\log (\sqrt{\frac{\pi e}{2}}) \approx 1 比特。我们的结果推广到具有可能相关坐标的向量 XX 的情况,以及 γ\gamma-凹随机变量。我们的证明技术利用了凸几何中的工具。

关键词

引用

@article{arxiv.1704.07766,
  title  = {A lower bound on the differential entropy of log-concave random vectors with applications},
  author = {Arnaud Marsiglietti and Victoria Kostina},
  journal= {arXiv preprint arXiv:1704.07766},
  year   = {2018}
}

备注

31 pages, 2 figures