Renyi 信息维数的极化及其在压缩感知中的应用
信息论
2017-08-24 v2 math.IT
摘要
本文证明了 Hadamard 矩阵在实数域上作为 Rényi 信息维数(RID)的提取器,其作用方式类似于它在有限域上作为离散熵提取器的方式。更确切地说,我们证明了当由 Hadamard 矩阵变换时,混合随机变量的独立同分布序列的 RID 会极化至极端值 0 和 1(分别对应离散分布和连续分布)。此外,我们证明了 RID 的极化模式具有闭式表达式,并且完全遵循离散设定下的二进制擦除信道(BEC)极化模式。我们还将结果从单终端扩展至多终端设定,获得了 RID 极化的 Slepian-Wolf 对应物。我们讨论了 RID 极化在独立同分布源压缩感知中的应用。特别是,我们利用 RID 极化构造了一族用于压缩感知的确定性 值感知矩阵。我们运行数值模拟,将所得矩阵的性能与随机 Gaussian 矩阵和随机 Hadamard 矩阵进行比较。结果表明,所提出的矩阵在显式构造的同时提供了具有竞争力的性能。
引用
@article{arxiv.1301.6388,
title = {Polarization of the Renyi Information Dimension with Applications to Compressed Sensing},
author = {Saeid Haghighatshoar and Emmanuel Abbe},
journal= {arXiv preprint arXiv:1301.6388},
year = {2017}
}
备注
12 pages, 2 figures