利用退火变分目标提升变分推断中的可探索性
机器学习
2018-10-29 v3 机器学习
摘要
尽管近似分布在变分推断中的表征能力取得了进展，优化过程仍可能限制最终学到的密度。我们展示了将真实后验偏置为单峰的缺陷，并将退火变分目标（AVO）引入分层变分方法的训练中。受退火重要性采样的启发，所提方法通过将能量回火纳入优化目标来促进学习。在我们的实验中，我们证明了该方法对确定性预热具有鲁棒性，并展示了在潜空间中鼓励探索的益处。
引用
@article{arxiv.1809.01818,
title = {Improving Explorability in Variational Inference with Annealed Variational Objectives},
author = {Chin-Wei Huang and Shawn Tan and Alexandre Lacoste and Aaron Courville},
journal= {arXiv preprint arXiv:1809.01818},
year = {2018}
}
备注
To appear in NIPS 2018