中文

Bernstein 函数:稀疏估计中非凸惩罚的统一框架

机器学习 2013-12-18 v1

摘要

本文研究利用 Bernstein 函数进行非凸惩罚。由于 Bernstein 函数在原点处是凹且非光滑的,它可以为高维稀疏估计问题诱导出一类非凸函数。我们推导了基于 Bernstein 惩罚的阈值函数,并给出了其在稀疏建模中的数学性质。我们表明,坐标下降算法特别适用于带有 Bernstein 惩罚的惩罚回归问题。此外,我们证明了 Bernstein 函数可以定义为 φ\varphi-divergence 的凹共轭,并开发了一种共轭最大化算法来寻找稀疏解。最后,我们特别举例说明了一类基于广义 Gamma 测度的 Bernstein 非凸惩罚族,并对该族进行了实证分析。

关键词

引用

@article{arxiv.1312.4719,
  title  = {The Bernstein Function: A Unifying Framework of Nonconvex Penalization in Sparse Estimation},
  author = {Zhihua Zhang},
  journal= {arXiv preprint arXiv:1312.4719},
  year   = {2013}
}