自适应确有帮助:非自适应感知的 $l_0$ 代价的信息论极限
信息论
2016-06-24 v2 math.IT
摘要
自适应和反馈的优势在信号处理和通信中备受关注,已有许多正面和负面结果。尽管已确立的是,在固定测量次数下,自适应并未在极大极小均方误差上带来显著减小,但现有结果表明,在感知能量受限的情况下,自适应在重构复杂度、支撑检测精度以及信噪比增益方面具有若干优势。感知能量通常用感知矩阵的弗罗贝尼乌斯范数来度量。本文采用一种不同的度量,我们称之为感知矩阵的 代价,来量化感知的复杂度。因此稀疏感知矩阵具有更低的代价。我们推导了适用于任意非自适应感知策略的 代价的信息论下界。我们证明,当测量次数限制在 时,任何非自适应感知策略在重构一个 维单稀疏信号时都必须承受 的 代价。相比之下,二分类型的自适应策略在同等测量次数下仅需至多 的 代价。该问题可以有趣地解释为多维度空间中的球填充问题,其中所有球心具有最小非零坐标。我们还讨论了当测量次数从 增加到 时 代价的变化。
引用
@article{arxiv.1602.04260,
title = {Adaptivity provably helps: information-theoretic limits on $l_0$ cost of non-adaptive sensing},
author = {Sanghamitra Dutta and Pulkit Grover},
journal= {arXiv preprint arXiv:1602.04260},
year = {2016}
}
备注
8 pages, 2 figures, Accepted at ISIT 2016