中文

异方差Double Bayesian Elastic Net

统计方法学 2025-02-05 v1 人工智能 机器学习

摘要

在许多实际应用中,回归模型用于揭示预测变量与响应变量之间的关系,但常用的常数误差方差假设经常被违反。在高维情境下,其中预测变量数量超过样本量,进一步需要正则化来实现有效估计和变量选择。为此,我们提出了异方差Double Bayesian Elastic Net (HDBEN),这是一种新型框架,联合建模均值和log-方差,使用包含1\ell_12\ell_2惩罚的层次贝叶斯先验。我们的ethods 同时在回归系数和方差参数上引导稀疏和分组,捕捉数据的复杂方差结构。理论结果表明,提出的HDBEN实现后验浓度、变量选择一致性和渐近正态性,在温和条件下证明了其行为。仿真研究进一步表明,HDBEN在异方差和高维情境下优于现有方法。

关键词

引用

@article{arxiv.2502.02032,
  title  = {Heteroscedastic Double Bayesian Elastic Net},
  author = {Masanari Kimura},
  journal= {arXiv preprint arXiv:2502.02032},
  year   = {2025}
}