一种用于贝叶斯网络结构学习的混合算法及其在多标签学习中的应用
机器学习
2015-06-19 v1 人工智能
机器学习
摘要
我们提出一种用于贝叶斯网络结构学习的新型混合算法，称为 H2PC。它首先重构贝叶斯网络的骨架，然后执行基于贝叶斯评分的贪婪爬山搜索以确定边的方向。该算法基于分治的基于约束的子程序来学习目标变量周围的局部结构。我们进行两组实验将 H2PC 与当前最强大的前沿贝叶斯网络结构学习算法 Max-Min Hill-Climbing (MMHC) 进行比较。首先，我们使用八个已知的不同数据规模的贝叶斯网络基准来评估算法返回的学习结构质量。我们广泛的实验表明，H2PC 在针对新数据的拟合优度以及相对于数据真实依赖关系的网络结构质量方面优于 MMHC。其次，我们研究 H2PC 解决多标签学习问题的能力。我们提供理论结果来刻画并图形化识别所谓的极小标签幂集，它们在忠实性条件下作为联合分布中的不可约因子出现。多标签学习问题随后被分解为一系列多类分类问题，其中每个多类变量编码一个标签幂集。在覆盖不同应用领域的十个多标签数据集上，H2PC 在全球分类准确率方面被证明优于 MMHC。总体而言，我们的实验支持如下结论：以局部邻域归纳形式进行的 H2PC 局部结构学习是一个理论动机充分且经验有效的学习框架，非常适合于多标签学习。H2PC 的源代码（R 语言）以及用于实证测试的所有数据集均公开可用。
引用
@article{arxiv.1506.05692,
title = {A hybrid algorithm for Bayesian network structure learning with application to multi-label learning},
author = {Maxime Gasse and Alex Aussem and Haytham Elghazel},
journal= {arXiv preprint arXiv:1506.05692},
year = {2015}
}
备注
arXiv admin note: text overlap with arXiv:1101.5184 by other authors