局部收缩模型中的参数扩展
统计计算
2010-10-27 v1 统计方法学
摘要
本文考虑了使用MCMC拟合基于正态尺度混合先验的稀疏贝叶斯模型的问题。该框架的例子包括贝叶斯LASSO和马蹄铁先验。我们研究了参数扩展（PX）在改善此类模型收敛性方面的效用，当全局方差分量接近零时，此类模型的收敛速度通常很慢。我们的结论是，参数扩展确实能改善LASSO型模型的情况，但效果有限。在大多数情况下，这种改进虽然明显，但小于预期，特别是与PX在此处考虑的非常相似的模型中所能实现的改进相比。我们给出了一些例子，并尝试提供一些关于为何如此的直觉。我们还描述了如何使用切片采样来更新全局方差分量。在实践中，这种方法的表现似乎与参数扩展几乎一样好。然而，作为一个实际问题，它或许最好不被视为PX的替代品，而是作为扩展PX适用模型类别的一种工具。
引用
@article{arxiv.1010.5265,
title = {Parameter expansion in local-shrinkage models},
author = {James G. Scott},
journal= {arXiv preprint arXiv:1010.5265},
year = {2010}
}