基于排序的贝叶斯网络学习中正则化 Cholesky 分数的优化

贝叶斯网络是一类流行的图模型，通过有向无环图（DAGs）编码变量间的因果与条件独立关系。我们提出一种新颖的结构学习方法——正则化 Cholesky 分数退火（ARCS），以在拓扑排序（即节点排列）上搜索高分贝叶斯网络。我们的打分函数源自对高斯 DAG 似然的正则化，其优化从统计视角给出了稀疏 Cholesky 分解问题的一种替代表述，这本身具有独立意义。我们将基于排列的全局模拟退火与在边系数三角矩阵上运行的快速近端梯度算法相结合，以计算任意排列的分数。二者结合使我们能够快速有效地搜索 DAG 空间，而无需验证无环约束或枚举给定候选拓扑排序下的可能父节点集。优化的退火部分能够持续提升局部搜索算法所学 DAG 的准确率。此外，我们开发了若干技术以促进结构学习，包括退火前数据驱动的调参选择以及退火后基于约束的结构精化。通过大量数值比较，我们表明 ARCS 相较现有方法取得实质性改进，展现出从观测与实验数据中学习贝叶斯网络的巨大潜力。