高维线性逆问题中理想解码器的基本性能极限
信息论
2014-12-10 v2 math.IT
摘要
本文旨在刻画给定一般模型（即感兴趣的“简单”向量的一般子集）时，理想解码器所能预期的基本性能极限。首先，我们将所谓的解码器实例最优性（instance optimality）概念扩展到仅需从低维观测中重构原始高维向量部分分量的情形。这涵盖了诸如感兴趣区域的医学成像，或仅估计特定乐器对音乐录音贡献的音频源分离等实际场景。我们在远超传统稀疏恢复框架的模型上定义了实例最优性，并根据模型与所考虑线性算子的联合性质，刻画了实例最优解码器的存在性。我们同时考虑了无噪和抗噪情形。 somewhat 令人惊讶地，我们证明了对于所有噪声水平都存在感知噪声的实例最优解码器，意味着存在一个盲噪声解码器。我们结果的一个推论是：对于丰富到足以包含正交基的模型，仅当线性算子未显著降低维度时，L2/L2 实例最优解码器才可能存在。这涵盖了众所周知的情形（稀疏向量、低秩矩阵）以及若干看似新的情形（例如结构化稀疏性和稀疏逆协方差矩阵）。我们展示了一种依赖于算子的范数，在受限等距性质（RIP）的模型特定推广下，该范数总能产生可行的实例最优性性质。此范数可由相对于所考虑模型的原子范数给出上界。
引用
@article{arxiv.1311.6239,
title = {Fundamental performance limits for ideal decoders in high-dimensional linear inverse problems},
author = {Anthony Bourrier and Mike E. Davies and Tomer Peleg and Patrick Pérez and Rémi Gribonval},
journal= {arXiv preprint arXiv:1311.6239},
year = {2014}
}
备注
To appear in IEEE Transactions on Information Theory