贝叶斯 lasso 与弹性网的解析解及稳相近似

Tom Michoel

贝叶斯 lasso 与弹性网的解析解及稳相近似

统计方法学 2021-10-29 v3 机器学习统计理论定量方法统计理论

作者: Tom Michoel

摘要

lasso 和弹性网线性回归模型对模型参数施加双指数先验分布，以实现回归收缩和变量选择，从而能够从大数据集推断稳健模型。然而，由于需要计算解析上不可处理的配分函数积分，对这些模型中回归系数的完整后验分布进行估计的成功有限。本文利用 Fourier 变换将这些积分表示为“回归频率”上的复值振荡积分。这得到了贝叶斯 lasso 和弹性网配分函数的解析展开和稳相近似，而双指数先验的不可微性此前一直使此类方法难以实现。使用该近似可对回归系数的期望值和边缘后验分布进行高精度数值估计，并使比以往更高维模型的贝叶斯推断成为可能。

关键词

贝叶斯 lasso 弹性网稳相近似配分函数双指数先验 Fourier 变换后验分布

引用

@article{arxiv.1709.08535,
  title  = {Analytic solution and stationary phase approximation for the Bayesian lasso and elastic net},
  author = {Tom Michoel},
  journal= {arXiv preprint arXiv:1709.08535},
  year   = {2021}
}

备注

Switched to new NeurIPS style file; 11 pages, 3 figures + appendices 29 pages, 3 supplementary figures

贝叶斯 lasso 与弹性网的解析解及稳相近似

摘要

关键词

引用

备注

相关论文