面向高维稳健回归的广义贝叶斯方法:考虑序列相关的误差与预测变量
统计方法学
2025-03-13 v3 统计理论
统计计算
统计理论
摘要
本文提出一种基于损失函数的广义贝叶斯方法,用于处理具有序列相关误差和预测变量的高维稳健回归问题。该方法框架采用新发展的比例伪Huber(SPH)损失函数,该损失函数对已知的Huber损失进行平滑处理,有效地在二次()和绝对线性()损失行为之间进行平衡。这种灵活性使该框架能够高效地适应细尾和厚尾数据。广义贝叶斯方法基于SPH损失构建工作似然分布,实现了高效稳定的估计,并为所有模型参数提供严格的不确定性量化。值得注意的是,该方法无需依赖任意调参即可进行正式统计推断,同时自适应地处理误差中各种尾部行为。通过为回归系数指定合适的先验分布——例如在小或中等维度情形下使用岭先验,在高维情形下使用尖峰-石板先验——该框架确保了原则性的推断。我们在广泛的数据生成情形下,建立了对准确参数估计和正确预测变量选择的严格理论保证。大量仿真研究表明,我们的方法在传统基于和损失函数的贝叶斯回归方法中表现优异。结果突出了其灵活性和稳健性,尤其是在数据受污染的挑战性高维情形下。
引用
@article{arxiv.2412.05673,
title = {A generalized Bayesian approach for high-dimensional robust regression with serially correlated errors and predictors},
author = {Saptarshi Chakraborty and Kshitij Khare and George Michailidis},
journal= {arXiv preprint arXiv:2412.05673},
year = {2025}
}