中文

面向高维稳健回归的广义贝叶斯方法:考虑序列相关的误差与预测变量

统计方法学 2025-03-13 v3 统计理论 统计计算 统计理论

摘要

本文提出一种基于损失函数的广义贝叶斯方法,用于处理具有序列相关误差和预测变量的高维稳健回归问题。该方法框架采用新发展的比例伪Huber(SPH)损失函数,该损失函数对已知的Huber损失进行平滑处理,有效地在二次(2\ell_2)和绝对线性(1\ell_1)损失行为之间进行平衡。这种灵活性使该框架能够高效地适应细尾和厚尾数据。广义贝叶斯方法基于SPH损失构建工作似然分布,实现了高效稳定的估计,并为所有模型参数提供严格的不确定性量化。值得注意的是,该方法无需依赖任意调参即可进行正式统计推断,同时自适应地处理误差中各种尾部行为。通过为回归系数指定合适的先验分布——例如在小或中等维度情形下使用岭先验,在高维情形下使用尖峰-石板先验——该框架确保了原则性的推断。我们在广泛的数据生成情形下,建立了对准确参数估计和正确预测变量选择的严格理论保证。大量仿真研究表明,我们的方法在传统基于2\ell_21\ell_1损失函数的贝叶斯回归方法中表现优异。结果突出了其灵活性和稳健性,尤其是在数据受污染的挑战性高维情形下。

关键词

引用

@article{arxiv.2412.05673,
  title  = {A generalized Bayesian approach for high-dimensional robust regression with serially correlated errors and predictors},
  author = {Saptarshi Chakraborty and Kshitij Khare and George Michailidis},
  journal= {arXiv preprint arXiv:2412.05673},
  year   = {2025}
}