中文

重要加权变分推断的渐近性质

统计理论 2025-01-16 v1 统计理论

摘要

对于复杂的潜在变量模型,似然函数无法以闭合形式表示。在此背景下,执行参数估计的流行方法是重要加权变分推断 (IWVI)。它本质上是最大化对数重要性抽样似然估计的期望值,同时相对于潜在变量模型参数和重要分布参数进行参数估计,该期望本身是相对于重要样本进行的。尽管 IWVI 在机器学习中取得了巨大的实践成功,但对结果估计的极限性质的理论分析仍缺乏。我们填补了这一空白,通过建立当蒙特卡罗样本大小和观察数据样本大小同时趋于无穷时的结果估计的一致性。我们还在额外的条件下建立了渐近正态性和效率性,这些条件涉及蒙特卡罗样本大小与观察数据样本大小之间增长率的关系。我们区分了与重要比值光滑性相关的若干情形。

关键词

引用

@article{arxiv.2501.08477,
  title  = {On the Asymptotics of Importance Weighted Variational Inference},
  author = {Badr-Eddine Cherief-Abdellatif and Randal Douc and Arnaud Doucet and Hugo Marival},
  journal= {arXiv preprint arXiv:2501.08477},
  year   = {2025}
}

备注

25 pages, 2 figures