零范数与秩优化问题的等价 Lipschitz 替代函数
机器学习
2018-05-01 v1 机器学习
摘要
本文提出了一种机制，通过其等价的带均衡约束数学规划（MPECs）的全局精确罚函数，为零范数和秩优化问题生成等价的 Lipschitz 替代函数。具体而言，我们通过零范数和秩函数的变分特征将这些组合问题重构为等价的 MPECs，证明了通过将均衡约束移入目标函数而产生的罚问题是全局精确罚函数，并通过消除全局精确罚函数中的对偶变量获得了等价的 Lipschitz 替代函数。如果零范数和秩优化问题中涉及的函数与约束集是凸的，这些替代函数（包括统计学中流行的 SCAD 函数）也是两个凸函数之差（D.C.）。我们通过为秩加零范数正则化极小化问题设计一种多阶段凸松弛方法，展示了一个应用实例。
引用
@article{arxiv.1804.11062,
title = {Equivalent Lipschitz surrogates for zero-norm and rank optimization problems},
author = {Yulan Liu and Shujun Bi and Shaohua Pan},
journal= {arXiv preprint arXiv:1804.11062},
year = {2018}
}