渐近变分目标的递归学习
机器学习
2024-11-05 v1 机器学习
统计计算
摘要
一般状态空间模型（SSM）在统计机器学习中被广泛使用，是最经典的用于序列时间序列数据的生成模型之一。SSM包含马尔可夫隐状态，可以施加变分推断（VI），但标准VI方法如重要性加权自编码器（IWAE）缺乏流式数据处理功能。为了在观测实时到达时实现SSM中的在线VI，我们提出最大化IWAE型变分下界于渐近对比函数之上，而非标准IWAE ELBO，使用随机逼近。与直接最大化渐近对比的递归最大似然方法不同，我们提出的方法——在线序贯IWAE（OSIWAE）——允许同时在线学习模型参数和用于推断隐状态的马尔可夫识别模型。通过使用序贯蒙特卡洛（SMC）方法近似滤波状态后验及其导数，我们为SSM中的在线VI创建了一个基于粒子的框架。该方法在理论上比近期提出的在线变分SMC方法更为严格。我们提供了关于学习目标的严格理论结果以及一项数值研究，展示了该方法在学习模型参数和粒子建议核方面的效率。
引用
@article{arxiv.2411.02217,
title = {Recursive Learning of Asymptotic Variational Objectives},
author = {Alessandro Mastrototaro and Mathias Müller and Jimmy Olsson},
journal= {arXiv preprint arXiv:2411.02217},
year = {2024}
}