通过查询训练学习无向模型
机器学习
2019-12-09 v1 机器学习
摘要
变分自编码器中的典型摊销推断专门针对单一概率查询。本文提出一种可泛化至未知概率查询的推断网络架构。我们无需编码器-解码器对，而是可直接从数据训练单一推断网络，使用的代价函数在样本上随机，在查询上亦随机。我们可以利用该网络执行与含隐变量的无向图模型相同的推断任务，而无需处理难解的配分函数。结果可映射至实际无向模型的学习，而后者是众所周知的难题。我们的网络还可按需对干扰变量进行边际化。我们表明，该方法在未见过的测试数据上也能泛化至未知概率查询，提供快速且灵活的推断。实验表明，该方法在 9 个基准数据集上优于或与 PCD 和 AdVIL 相当。
引用
@article{arxiv.1912.02893,
title = {Learning undirected models via query training},
author = {Miguel Lazaro-Gredilla and Wolfgang Lehrach and Dileep George},
journal= {arXiv preprint arXiv:1912.02893},
year = {2019}
}