Bernstein 函数:稀疏估计中非凸惩罚的统一框架
机器学习
2013-12-18 v1
摘要
本文研究利用 Bernstein 函数进行非凸惩罚。由于 Bernstein 函数在原点处是凹且非光滑的,它可以为高维稀疏估计问题诱导出一类非凸函数。我们推导了基于 Bernstein 惩罚的阈值函数,并给出了其在稀疏建模中的数学性质。我们表明,坐标下降算法特别适用于带有 Bernstein 惩罚的惩罚回归问题。此外,我们证明了 Bernstein 函数可以定义为 -divergence 的凹共轭,并开发了一种共轭最大化算法来寻找稀疏解。最后,我们特别举例说明了一类基于广义 Gamma 测度的 Bernstein 非凸惩罚族,并对该族进行了实证分析。
引用
@article{arxiv.1312.4719,
title = {The Bernstein Function: A Unifying Framework of Nonconvex Penalization in Sparse Estimation},
author = {Zhihua Zhang},
journal= {arXiv preprint arXiv:1312.4719},
year = {2013}
}