贝叶斯 $l_0$ 正则化最小二乘

贝叶斯 $l_0$ 正则化最小二乘是一种针对高维预测变量的变量选择技术。其挑战在于通过在所有可能预测变量组合构成的模型空间中进行搜索，来优化一个非凸目标函数。尖峰-厚尾先验（又称伯努利-高斯先验）是贝叶斯变量选择的黄金标准，但存在计算速度和可扩展性方面的不足。单一最佳替换（SBR）算法提供了一种快速且可扩展的替代方案。我们建立了贝叶斯正则化与邻近更新之间的联系，该联系证明了寻找后验众数与使用不同正则化先验寻找后验均值之间的等价性。这使得我们能够使用 SBR 来寻找尖峰-厚尾估计量。为说明我们的方法，我们提供了关于 SBR 与使用尖峰-厚尾先验进行直接后验抽样相比的统计性质和计算效率的模拟证据和一个真实数据示例。最后，我们总结了未来的研究方向。