中文

probit、tobit、多项 probit 及扩展模型中的贝叶斯共轭性:综述与新结果

统计方法学 2023-03-07 v3 统计计算

摘要

在多个领域中常规出现的广泛模型类可表达为部分或完全离散化的高斯线性回归。除包含基本高斯响应设定外,该类还涵盖 probit、多项 probit 与 tobit 回归等,从而构成应用中最广泛实现的模型族之一。此类表示的关联性激发了数十年的贝叶斯领域研究,主要动因在于:与高斯线性回归不同,在通常假设的系数高斯先验下,此类模型诱导的后验分布似乎不属于已知类。这促使了多种基于采样策略或确定性近似的后验推断解法,但其在高维下仍存在计算与精度问题。本文旨在综述、统一并扩展该类模型在贝叶斯推断与计算方面的近期进展。为实现此目标,我们证明这些公式诱导的似然共享一种共同的分析结构,意味着其与广泛的一类分布(即统一化偏态正态(unified skew-normal, SUN)分布,将高斯分布推广至偏态情形)共轭。该结果统一并扩展了针对所分析类内特定模型的近期共轭性质,并在更宽泛的公式与先验类下,通过新颖的闭式表达、精确 SUN 后验的 i.i.d. 采样器,以及来自 VB 与 EP 的更精确且可扩展的近似,为改进后验推断开辟途径。这些优势在模拟中得以展示,并有望促进这些核心贝叶斯模型的常规使用,同时为研究理论性质与开发未来扩展提供新框架。

关键词

引用

@article{arxiv.2206.08118,
  title  = {Bayesian conjugacy in probit, tobit, multinomial probit and extensions: A review and new results},
  author = {Niccolò Anceschi and Augusto Fasano and Daniele Durante and Giacomo Zanella},
  journal= {arXiv preprint arXiv:2206.08118},
  year   = {2023}
}