面向异构推断的生成模型
机器学习
2018-04-27 v1 计算机视觉与模式识别
机器学习
摘要
生成模型(Generative Models, GMs)如生成对抗网络(Generative Adversary Network, GAN)与变分自编码器(Variational Auto-Encoder, VAE)近年来蓬勃发展,并在生成新样本方面取得高质量结果。尤其在计算机视觉中,GMs 已被用于图像修复、去噪与补全,其可被视为从观测像素到损坏像素的推断。然而,图像具有层次化结构,与许多具有非层次特征的实际推断场景截然不同。这些推断场景包含异构随机变量与不规整的相互依赖。传统上它们由贝叶斯网络(Bayesian Network, BN)建模。但 BN 模型的学习与推断是 NP 难的,因此 BN 中随机变量数量受到高度限制。本文中,我们改造典型 GMs 以在多项式时间内实现异构学习与推断。我们还提出扩展自回归(Extended AutoRegressive, EAR)模型及带对抗损失的 EAR(EARA)模型,并给出其有效性的理论结果。在若干 BN 数据集上的实验表明,与其他 GMs 相比,我们提出的 EAR 模型在大多数情况下取得最佳性能。除黑盒分析外,我们还做了一系列关于 GMs 马尔可夫边界推断的白盒实验并给出理论结果。
引用
@article{arxiv.1804.09858,
title = {Generative Model for Heterogeneous Inference},
author = {Honggang Zhou and Yunchun Li and Hailong Yang and Wei Li and Jie Jia},
journal= {arXiv preprint arXiv:1804.09858},
year = {2018}
}