中文

欠定线性方程组稀疏整数解的恢复

信息论 2015-03-19 v2 离散数学 机器学习 math.IT

摘要

我们考虑一个包含nn个变量的mm个线性方程组Ax=bAx=b,其中AA是给定的m×nm \times n矩阵,bb是给定的mm维向量,且已知bb等于某个未知解xx'AxAx',其中xx'是整数且kk-稀疏:x{0,1}nx' \in \{0,1\}^nxx'中恰好有kk个元素为 1。我们给出了利用最小化xxl1l_1范数的线性规划(LP)松弛来精确恢复解xx的充要条件。当AA从具有可交换列的分布中抽取时,我们展示了恢复概率与几何学中一个著名问题(即kk-集问题)之间的有趣联系。据我们所知,这种联系在压缩感知文献中似乎是新的。我们通过实验表明,对于大的nn,如果AA的元素独立同分布地取自正态分布,则恢复 LP 的性能表现出相变,即对于每个kk,存在一个mm的值mm',使得当m>mm > m'时恢复总是成功,而当m<mm < m'时恢复总是失败。利用实验数据,我们猜想m=nH(k/n)/2m' = nH(k/n)/2,其中H(x)=(x)log2(x)(1x)log2(1x)H(x) = -(x)\log_2(x) - (1-x)\log_2(1-x)是二元熵函数。

关键词

引用

@article{arxiv.1112.1757,
  title  = {Recovery of a Sparse Integer Solution to an Underdetermined System of Linear Equations},
  author = {T. S. Jayram and Soumitra Pal and Vijay Arya},
  journal= {arXiv preprint arXiv:1112.1757},
  year   = {2015}
}

备注

4 pages, contributed paper to be published at NIPS 2011 Workshop on Sparse Representation and Low-rank Approximation, 16 December 2011