滤波变分目标
机器学习
2017-11-15 v3 人工智能
神经与进化计算
机器学习
摘要
当用作潜变量模型中最大似然估计的替代目标时，证据下界（ELBO）能产生最先进的结果。受此启发，我们考虑将ELBO扩展到一个由粒子滤波器对边际似然的估计所定义的下界族，即滤波变分目标（FIVOs）。FIVOs采用与ELBO相同的参数，但可以利用模型的序列结构形成更紧的下界。通过考虑定义为对数变换似然估计器的下界的一般情况，我们给出了将FIVO下界的紧度与粒子滤波器估计量的方差相关联的结果。实验上，我们表明，在序列数据上使用FIVO进行训练，相较于使用ELBO训练相同的模型架构，能带来显著的改进。
引用
@article{arxiv.1705.09279,
title = {Filtering Variational Objectives},
author = {Chris J. Maddison and Dieterich Lawson and George Tucker and Nicolas Heess and Mohammad Norouzi and Andriy Mnih and Arnaud Doucet and Yee Whye Teh},
journal= {arXiv preprint arXiv:1705.09279},
year = {2017}
}