依赖网络的核集
人工智能
2017-10-17 v2 机器学习
机器学习
摘要
许多应用从数据中推断概率图模型的结构,以阐明变量之间的关系。但是,我们如何在大规模数据集上训练图模型呢?在本文中,我们展示了如何为高斯依赖网络构建核集——即压缩后的数据集,可用作原始数据的代理且具有可证明有界的最坏情况误差。高斯依赖网络即高斯上的有向循环图模型,其中每个变量的父节点为其 Markov 毯。具体而言,我们证明高斯依赖网络允许大小与数据集规模无关的核集。遗憾的是,这无法推广到一般指数族成员上的依赖网络。我们将证明,Poisson 依赖网络不存在小核集。尽管存在这一最坏情况结果,我们将提供论证说明为何我们的依赖网络核集构建在实践中仍能在计数数据上良好运行。为了印证我们的理论结果,我们在真实数据集上对所得的 Core DNs 进行了实证评估。结果
引用
@article{arxiv.1710.03285,
title = {Coresets for Dependency Networks},
author = {Alejandro Molina and Alexander Munteanu and Kristian Kersting},
journal= {arXiv preprint arXiv:1710.03285},
year = {2017}
}
备注
16 pages, 3 figures