高维 robit 回归数据增广算法的收敛性质
统计理论
2021-12-21 v1 统计计算
统计理论
摘要
logistic 与 probit 链接函数是二值响应回归模型最常见的选择。然而,这些选择对离群值/异常观测的存在不具备鲁棒性。robit 链接函数等于 Student's 分布的逆 CDF,为 probit 与 logistic 链接函数提供了鲁棒的替代方案。回归系数的多元正态先验是 robit 回归模型中贝叶斯推断的标准选择。所得后验密度难以处理,故使用数据增广(Data Augmentation, DA)马尔可夫链来从目标后验分布生成近似样本。确立该 DA 马尔可夫链的几何遍历性十分重要,因其为所需后验期望/分位数的 MCMC 标准误的渐近有效性提供了理论保证。先前工作 [Roy(2012)] 在该 DA 马尔可夫链满足 (i) 样本量 主导预测变量数 ,且 (ii) 要求样本量以上界受限于依赖于设计矩阵 的固定常数为条件的额外约束下,确立了其几何遍历性。特别地,未考虑 的现代高维情形。本文中,我们证明对于任意样本量 、预测变量数 、设计矩阵 及先验均值与方差参数的选择,robit DA 马尔可夫链是迹类(即相应马尔可夫算子的特征值可和)的。迹类性质蕴含几何遍历性。此外,该性质使我们可得出结论:夹心 robit 链(通过在 DA 链两步之间插入一个廉价额外步获得)在恰当意义下严格优于 robit DA 链。
引用
@article{arxiv.2112.10349,
title = {Convergence properties of data augmentation algorithms for high-dimensional robit regression},
author = {Sourav Mukherjee and Kshitij Khare and Saptarshi Chakraborty},
journal= {arXiv preprint arXiv:2112.10349},
year = {2021}
}
备注
29 pages, 4 figures