中文

随机块子字典的条件数及其在块稀疏恢复与回归中的应用

统计理论 2018-03-06 v4 信息论 math.IT 统计理论

摘要

线性模型假设一组观测值由矩阵列的线性组合给出,长期以来一直是统计学和信号处理文献的支柱。线性模型下推断的一个特定挑战是理解字典在何种条件下才能实现可靠推断。近年来,由于许多现代推断问题处理的是“欠定”设定(即观测数量远小于字典中的列数),这一挑战重新引起了关注。当观测集由字典中少量列组的线性组合给出时(称为“块稀疏”情形),本文针对该设定做出了若干贡献。首先,它规定了字典在何种条件下大多数块子字典具有良态条件数。这一结果与先前关于块稀疏推断的工作有根本不同,因为:(i) 它提供了可在多项式时间内显式计算的条件;(ii) 对于一大类字典,给定条件转化为块子字典列数随观测数量变化的近最优缩放;(iii) 它表明字典的谱范数和二次平均块相干性(而非最坏情况相干性)从根本上限制了良态块子字典维度的缩放。其次,本文研究了欠定设定下的块稀疏恢复和块稀疏回归问题。只要字典满足易于计算的条件,且描述列组线性组合的系数可以通过温和的统计先验进行建模,对于某些字典而言,近最优的块稀疏恢复和回归是可能的。

关键词

引用

@article{arxiv.1309.5310,
  title  = {Conditioning of Random Block Subdictionaries with Applications to Block-Sparse Recovery and Regression},
  author = {Waheed U. Bajwa and Marco F. Duarte and Robert Calderbank},
  journal= {arXiv preprint arXiv:1309.5310},
  year   = {2018}
}

备注

39 pages, 3 figures. A revised and expanded version of the paper published in IEEE Transactions on Information Theory (DOI: 10.1109/TIT.2015.2429632); this revision includes corrections in the proofs of some of the results