复合泊松过程、潜在收缩先验与贝叶斯非凸惩罚
机器学习
2015-05-18 v3 统计方法学
摘要
在本文中,我们讨论了用于稀疏学习问题的贝叶斯非凸惩罚。我们探索了使用从属过程(一维 L\'{e}vy 过程)对潜在收缩参数进行非参数化表述。我们特别研究了一类连续复合泊松从属过程和一类离散复合泊松从属过程。我们举例说明了四种特定的从属过程:Gamma、Poisson、负二项和平方 Bessel 从属过程。这些从属过程的 Laplace 指数是 Bernstein 函数,因此可用作诱导稀疏性的非凸惩罚函数。我们在回归问题中利用这些从属过程,生成了一个具有多个正则化参数的分层模型。我们设计了 ECME(期望/条件最大化任意)算法来同时估计回归系数和正则化参数。对模拟数据的实证评估表明,我们的方法在高维数据分析中是可行且有效的。
引用
@article{arxiv.1308.6069,
title = {Compound Poisson Processes, Latent Shrinkage Priors and Bayesian Nonconvex Penalization},
author = {Zhihua Zhang and Jin Li},
journal= {arXiv preprint arXiv:1308.6069},
year = {2015}
}
备注
Published at http://dx.doi.org/10.1214/14-BA892 in the Bayesian Analysis (http://projecteuclid.org/euclid.ba) by the International Society of Bayesian Analysis (http://bayesian.org/)