子空间中最稀疏元素恢复的缩放律
最优化与控制
2014-12-04 v2
摘要
我们研究在给定子空间中恢复稀疏n维向量的问题。该问题是字典学习和稀疏主成分分析某些方法的子任务。因此,如果我们能够证明稀疏向量恢复的缩放律,将更容易推导和证明这些应用中的恢复结果。在本文中,我们提出了从由稀疏向量和k个随机向量张成的子空间中恢复稀疏向量的缩放律。我们证明,如果稀疏向量的支撑大小s满足s ≲ n/√(k log n),则该稀疏向量将以高概率成为n个线性规划之一的输出。当所需向量近似稀疏时,缩放律仍然成立。为了从n个线性规划中获得稀疏向量的单一估计,我们必须选择哪个输出是最稀疏的。该选择过程可以基于任何稀疏性的代理,而具体的代理可能改善或恶化缩放律。如果稀疏性以ℓ1/ℓ∞意义解释,则缩放律不能优于s ≲ n/√k。计算机模拟表明,以ℓ1/ℓ2或阈值ℓ0意义选择最稀疏输出可以导致比ℓ1/ℓ∞意义给出的成功恢复参数范围更大。
引用
@article{arxiv.1310.1654,
title = {Scaling Law for Recovering the Sparsest Element in a Subspace},
author = {Laurent Demanet and Paul Hand},
journal= {arXiv preprint arXiv:1310.1654},
year = {2014}
}