使用独立性测试进行高效的马尔可夫网络结构发现
机器学习
2014-01-16 v1 人工智能
机器学习
摘要
我们提出了两种从数据中学习马尔可夫网络结构的算法：GSMN* 和 GSIMN。这两种算法都使用统计独立性测试，通过相继约束与这些测试结果一致的结构集合来推断结构。直到最近，结构学习算法都是基于最大似然估计的，由于估计网络参数（计算数据似然所必需）的困难性，这已被证明对于马尔可夫网络是 NP-hard 的。基于独立性的方法不需要计算似然，因此 GSMN* 和 GSIMN 都能高效地计算结构（如我们的实验所示）。GSMN* 是对 Margaritis 和 Thrun 用于学习贝叶斯网络结构的 Grow-Shrink 算法的改编。GSIMN 通过额外利用 Pearls 著名的条件独立性关系性质，从已知的独立性中推断出新的独立性，从而扩展了 GSMN*，避免了执行统计测试来估计它们。为了高效地实现这一点，GSIMN 使用了三角定理（本文也引入了该定理），它是马尔可夫公理集合的简化版本。在人工和真实世界数据集上的实验比较表明，GSIMN 相对于 GSMN* 可以产生显著的节省，同时生成具有相当或在某些情况下更高质量的马尔可夫网络。我们还将 GSIMN 与一种前向链实现（称为 GSIMN-FCH）进行了比较，后者通过对已知条件独立性测试反复应用 Pearls 定理，产生所有可能的条件独立性。这项比较的结果表明，GSIMN 仅通过使用三角定理，在其推断的独立性测试集合方面就接近最优。
引用
@article{arxiv.1401.3478,
title = {Efficient Markov Network Structure Discovery Using Independence Tests},
author = {Facundo Bromberg and Dimitris Margaritis and Vasant Honavar},
journal= {arXiv preprint arXiv:1401.3478},
year = {2014}
}