中文

贝叶斯因子与离散分层对数线性模型的几何

统计理论 2011-10-24 v3 统计理论

摘要

贝叶斯框架中模型选择的标准工具是贝叶斯因子,它比较数据在两种给定不同模型下的边际似然。本文考虑离散数据的分层对数线性模型类,数据以列联表形式给出,采用多项抽样。我们假设Diaconis-Ylvisaker共轭先验是对数线性参数的先验分布,均匀分布是模型空间的先验分布。在这些条件下,两个模型之间的贝叶斯因子是其先验和后验归一化常数的函数。这些常数是超参数(m,α)的函数,它们可以分别解释为虚拟列联表的边际计数和总计数。我们研究当α趋于零时贝叶斯因子的行为。在这项研究中,两个数学对象起着最重要的作用。首先,对于给定的分层对数线性模型,多项分布支撑集的凸包C的内部C及其面;其次,这个凸集C的特征函数J_C。我们证明,当α趋于0时,如果数据位于C_i, i=1,2的维度为k_i的面F_i上,则贝叶斯因子表现为α^{k_1-k_2}。这特别意味着,当数据位于C_1和C_2中时(即当k_i等于模型J_i的维度时),更稀疏的模型被偏好,从而证实了贝叶斯正则化的思想。

关键词

引用

@article{arxiv.1103.5381,
  title  = {Bayes factors and the geometry of discrete hierarchical loglinear models},
  author = {Gerard Letac and Helene Massam},
  journal= {arXiv preprint arXiv:1103.5381},
  year   = {2011}
}

备注

37 pages