中文

用于稀疏估计的动能加惩罚函数

机器学习 2014-07-08 v3

摘要

本文提出并研究了一族诱导稀疏性的惩罚函数。由于这些惩罚函数与狭义相对论中的动能有关,我们将它们称为\emph{动能加} (KEP) 函数。我们利用 χ2\chi^2-距离函数的凹共轭构建了 KEP 函数,并提出了关于 q=1q=1 时 KEP 函数的几个新见解。特别是,我们推导了基于 KEP 函数的阈值算子,证明了其在稀疏建模中的数学性质和渐近性质。此外,我们表明坐标下降算法特别适用于 KEP 函数。另外,我们还讨论了 KEP 与惩罚函数 1/2\ell_{1/2} 和 MCP 的关系。理论和实证分析验证了 KEP 函数在高维数据建模中的有效性和高效性。

关键词

引用

@article{arxiv.1307.5601,
  title  = {Kinetic Energy Plus Penalty Functions for Sparse Estimation},
  author = {Zhihua Zhang and Shibo Zhao and Zebang Shen and Shuchang Zhou},
  journal= {arXiv preprint arXiv:1307.5601},
  year   = {2014}
}