稀疏性与熵的数学:公理、核心函数与稀疏恢复
信息论
2015-12-18 v3 math.IT
摘要
稀疏性和熵是现代信号处理和信息论理论的支柱概念。然而,科学界对这些概念的刻画尚未达成明确共识。先前的努力分别从特定的研究兴趣出发,有助于单独理解稀疏性或熵。本文提出了一种数学形式体系,即联合公理化刻画,旨在帮助理解稀疏性和熵(的美妙之处)。本文收集并引入了内在的和第一性原理准则作为公理和属性,共同刻画稀疏性和熵。所提出的公理集具有构造性,允许推导出简单或\emph{核心}函数及其进一步的推广。核心稀疏性推广了 Hoyer 测度、Gini 指数和 -均值。核心熵推广了 R\'{e}nyi 熵和 Tsallis 熵,而这两者又推广了 Shannon 熵。最后,核心函数成功应用于压缩感知和给定样本矩下的最小熵问题。更重要的是,(最简单的)核心稀疏性为压缩感知中的 -最小化方法提供了理论支持。
引用
@article{arxiv.1501.05126,
title = {Mathematics of Sparsity and Entropy: Axioms, Core Functions and Sparse Recovery},
author = {Giancarlo Pastor and Inmaculada Mora-Jiménez and Riku Jäntti and Antonio J. Caamaño},
journal= {arXiv preprint arXiv:1501.05126},
year = {2015}
}
备注
33 pages, 4 figures, 9 tables This very preliminary work has been withdrawn by the author due to crucial errors. No future version will be available