中文

稀疏性与熵的数学:公理、核心函数与稀疏恢复

信息论 2015-12-18 v3 math.IT

摘要

稀疏性和熵是现代信号处理和信息论理论的支柱概念。然而,科学界对这些概念的刻画尚未达成明确共识。先前的努力分别从特定的研究兴趣出发,有助于单独理解稀疏性或熵。本文提出了一种数学形式体系,即联合公理化刻画,旨在帮助理解稀疏性和熵(的美妙之处)。本文收集并引入了内在的和第一性原理准则作为公理和属性,共同刻画稀疏性和熵。所提出的公理集具有构造性,允许推导出简单或\emph{核心}函数及其进一步的推广。核心稀疏性推广了 Hoyer 测度、Gini 指数和 pqpq-均值。核心熵推广了 R\'{e}nyi 熵和 Tsallis 熵,而这两者又推广了 Shannon 熵。最后,核心函数成功应用于压缩感知和给定样本矩下的最小熵问题。更重要的是,(最简单的)核心稀疏性为压缩感知中的 1\ell_1-最小化方法提供了理论支持。

关键词

引用

@article{arxiv.1501.05126,
  title  = {Mathematics of Sparsity and Entropy: Axioms, Core Functions and Sparse Recovery},
  author = {Giancarlo Pastor and Inmaculada Mora-Jiménez and Riku Jäntti and Antonio J. Caamaño},
  journal= {arXiv preprint arXiv:1501.05126},
  year   = {2015}
}

备注

33 pages, 4 figures, 9 tables This very preliminary work has been withdrawn by the author due to crucial errors. No future version will be available