中文

高维 robit 回归数据增广算法的收敛性质

统计理论 2021-12-21 v1 统计计算 统计理论

摘要

logistic 与 probit 链接函数是二值响应回归模型最常见的选择。然而,这些选择对离群值/异常观测的存在不具备鲁棒性。robit 链接函数等于 Student's tt 分布的逆 CDF,为 probit 与 logistic 链接函数提供了鲁棒的替代方案。回归系数的多元正态先验是 robit 回归模型中贝叶斯推断的标准选择。所得后验密度难以处理,故使用数据增广(Data Augmentation, DA)马尔可夫链来从目标后验分布生成近似样本。确立该 DA 马尔可夫链的几何遍历性十分重要,因其为所需后验期望/分位数的 MCMC 标准误的渐近有效性提供了理论保证。先前工作 [Roy(2012)] 在该 DA 马尔可夫链满足 (i) 样本量 nn 主导预测变量数 pp,且 (ii) 要求样本量以上界受限于依赖于设计矩阵 XX 的固定常数为条件的额外约束下,确立了其几何遍历性。特别地,未考虑 n<pn < p 的现代高维情形。本文中,我们证明对于任意样本量 nn、预测变量数 pp、设计矩阵 XX 及先验均值与方差参数的选择,robit DA 马尔可夫链是迹类(即相应马尔可夫算子的特征值可和)的。迹类性质蕴含几何遍历性。此外,该性质使我们可得出结论:夹心 robit 链(通过在 DA 链两步之间插入一个廉价额外步获得)在恰当意义下严格优于 robit DA 链。

关键词

引用

@article{arxiv.2112.10349,
  title  = {Convergence properties of data augmentation algorithms for high-dimensional robit regression},
  author = {Sourav Mukherjee and Kshitij Khare and Saptarshi Chakraborty},
  journal= {arXiv preprint arXiv:2112.10349},
  year   = {2021}
}

备注

29 pages, 4 figures