一般状态空间模型的变分超额风险界
统计方法学
2023-12-18 v1 机器学习
摘要
在本文中，我们考虑了一般状态空间模型的变分自编码器（VAE）。我们考虑变分分布的后向因式分解，以分析与 VAE 相关的超额风险。这种后向因式分解最近被提出用于执行在线变分学习，并获得变分估计误差的上界。当观测到独立的序列轨迹，且在状态空间模型和变分分布的强混合假设下，我们提供了一个在样本数和观测序列长度上显式的预言机不等式。随后我们推导了该理论结果的推论。特别地，当数据分布由状态空间模型给出时，我们给出了数据分布与其估计量之间，以及变分后验与估计的状态空间后验分布之间的 Kullback-Leibler 散度的上界。在经典假设下，我们证明了我们的结果可应用于由稠密神经网络和循环神经网络构建的高斯后向核。
引用
@article{arxiv.2312.09607,
title = {Variational excess risk bound for general state space models},
author = {Élisabeth Gassiat and Sylvain Le Corff},
journal= {arXiv preprint arXiv:2312.09607},
year = {2023}
}