含未观测变量的高斯图模型中潜变量效应的学习
机器学习
2018-08-01 v2 机器学习
摘要
定义无向图模型的图的边结构精确描述了图中变量间的依赖结构。在许多应用中，依赖结构未知且希望从数据中学习它，通常因为它是能够确定因果效应的预备步骤。这一被称为结构学习的问题一般而言是困难的，但对于高斯图模型则稍容易一些，因为图的结构由联合分布精度矩阵的稀疏模式给出，且独立性与不相关性一致。结构学习中常被忽视的一个主要困难是：若某些变量未被观测，则观测变量上的边际依赖图可能显著更复杂，且不再反映可能与因果效应相关的直接依赖。本工作中，我们考虑一类潜变量高斯图模型，其中观测与未观测变量间联合分布的图是稀疏的，且未观测变量在给定其他变量时条件独立。已有工作能够恢复观测变量间的连通性，但只能识别未观测变量所张成的子空间，而我们提出一种基于结构化矩阵稀疏性的凸优化公式，在已知缺失变量个数及其连通性先验知识的条件下，估计含未观测变量之完整图的完整连通性。我们的公式得到稀疏图在无限数据极限下潜依赖结构可识别性理论结果的支持。我们提出一种利用近期活跃集方法的算法，其在合成数据实验中表现良好。
引用
@article{arxiv.1807.07754,
title = {Learning the effect of latent variables in Gaussian Graphical models with unobserved variables},
author = {Marina Vinyes and Guillaume Obozinski},
journal= {arXiv preprint arXiv:1807.07754},
year = {2018}
}