Lasso 中的半解析重采样

我们开发了一种以半解析方式在 Lasso（即 $\ell_1$ 惩罚线性回归）中进行重采样的近似方法，该方法直接计算出重采样数据集上的平均值而无需重复数值采样，从而实现了不受采样有限性所致统计涨落影响的推断，并显著减少了计算时间。所提方法基于消息传递类算法，当协变量为零均值独立同分布高斯随机变量时，其快速收敛由状态演化分析保证。该方法被用于实现自举 Lasso（Bolasso）与稳定性选择，二者均为结合 Lasso 使用重采样的变量选择方法，并解决了它们关于计算成本的劣势。为检验近似精度与效率，使用模拟数据集进行了数值实验。此外，给出了对真实世界数据集 wine quality 数据集的应用。为处理此类真实世界数据集，还通过添加噪声变量与重采样引入了判定所选变量相关性的客观准则。