贝叶斯网络结构学习中 BDeu 评分的理论分析

在贝叶斯网络结构学习（BNSL）中，我们需要结构和参数上的先验概率。若前者为均匀分布，则后者决定了 BNSL 的正确性。本文比较了 BDeu（贝叶斯 Dirichlet 等价均匀）先验与 Jeffreys 先验的一致性。当我们寻找变量 $X$ 的父集 $U$ 时，要求满足正则性：若 $H(X|U)\leq H(X|U')$ 且 $U\subsetneq U'$，则应选择 $U$ 而非 $U'$。我们证明 BDeu 评分违反了该性质，并在 BNSL 中导致致命状况。这是因为对于 BDeu 评分，对于任意样本量 $n$，存在形如 $P(X,Y,Z)={P(XZ)P(YZ)}/{P(Z)}$ 的概率，使得判定 $X$ 和 $Y$ 在给定 $Z$ 下不条件独立的概率大于一半。对于 Jeffreys 先验，假阳性概率一致收敛于零，不依赖于任何参数值，不会发生此类不便。