中文

自适应确有帮助:非自适应感知的 $l_0$ 代价的信息论极限

信息论 2016-06-24 v2 math.IT

摘要

自适应和反馈的优势在信号处理和通信中备受关注,已有许多正面和负面结果。尽管已确立的是,在固定测量次数下,自适应并未在极大极小均方误差上带来显著减小,但现有结果表明,在感知能量受限的情况下,自适应在重构复杂度、支撑检测精度以及信噪比增益方面具有若干优势。感知能量通常用感知矩阵的弗罗贝尼乌斯范数来度量。本文采用一种不同的度量,我们称之为感知矩阵的 l0l_0 代价,来量化感知的复杂度。因此稀疏感知矩阵具有更低的代价。我们推导了适用于任意非自适应感知策略的 l0l_0 代价的信息论下界。我们证明,当测量次数限制在 Θ(log2(N))\Theta\left(\log_2 (N)\right) 时,任何非自适应感知策略在重构一个 NN 维单稀疏信号时都必须承受 Θ(Nlog2(N))\Theta\left( N \log_2(N)\right) l0l_0 代价。相比之下,二分类型的自适应策略在同等测量次数下仅需至多 O(N)\mathcal{O}(N)l0l_0 代价。该问题可以有趣地解释为多维度空间中的球填充问题,其中所有球心具有最小非零坐标。我们还讨论了当测量次数从 Θ(log2(N))\Theta\left(\log_2 (N)\right) 增加到 Θ(N)\Theta\left(N\right)l0l_0 代价的变化。

关键词

引用

@article{arxiv.1602.04260,
  title  = {Adaptivity provably helps: information-theoretic limits on $l_0$ cost of non-adaptive sensing},
  author = {Sanghamitra Dutta and Pulkit Grover},
  journal= {arXiv preprint arXiv:1602.04260},
  year   = {2016}
}

备注

8 pages, 2 figures, Accepted at ISIT 2016