元摊销变分推断与学习
机器学习
2019-09-17 v2 人工智能
机器学习
摘要
尽管概率建模及其应用近期取得成功，但使用传统推断技术训练的生成模型难以适应新分布，即使目标分布可能与训练时见过的分布密切相关。在这项工作中，我们提出一种双重摊销变分推断过程作为应对该挑战的方法。通过在查询输入集合以及不同但相关的多组概率模型之间共享计算，我们学习到可跨若干相关分布泛化的可迁移潜表示。特别地，给定一组图像上的分布，我们发现所学表示可迁移到不同的数据变换。我们通过引入MetaVAE实证展示了方法的有效性，并表明其在MNIST（10-50%）和NORB（10-35%）的下游图像分类任务上显著优于基线。
引用
@article{arxiv.1902.01950,
title = {Meta-Amortized Variational Inference and Learning},
author = {Mike Wu and Kristy Choi and Noah Goodman and Stefano Ermon},
journal= {arXiv preprint arXiv:1902.01950},
year = {2019}
}
备注
First 2 authors contributed equally