用于$L0$-范数最小化的惩罚分解方法
最优化与控制
2012-05-14 v2 计算机视觉与模式识别
信息论
机器学习
数值分析
math.IT
统计方法学
摘要
在本文中,我们考虑一般的l0-范数最小化问题,即l0-范数出现在目标函数或约束中的问题。特别地,我们首先将l0-范数约束问题重新表述为一个等价的秩最小化问题,然后应用文献[33]中提出的惩罚分解方法来求解后者。通过利用特殊结构,我们将该方法的矩阵运算全部转化为向量运算,从而得到一个仅涉及向量运算的惩罚分解方法。在适当的假设下,我们证明了由惩罚分解方法生成的序列的任何聚点都满足一个一阶最优性条件,该条件通常强于一个自然的最优性条件。我们进一步将惩罚分解方法推广到求解l0-范数出现在目标函数中的问题。最后,我们通过将惩罚分解方法应用于压缩感知、稀疏逻辑回归和稀疏逆协方差选择来测试其性能。计算结果表明,我们的方法在解质量和/或速度方面通常优于现有方法。
引用
@article{arxiv.1008.5372,
title = {Penalty Decomposition Methods for $L0$-Norm Minimization},
author = {Zhaosong Lu and Yong Zhang},
journal= {arXiv preprint arXiv:1008.5372},
year = {2012}
}
备注
This paper has been withdrawn by the author because an updated version has been resubmitted