GP-select：利用自适应子空间预选加速 EM 算法
机器学习
2021-10-06 v2 机器学习
摘要
我们提出了一种非参数过程，以便在潜在状态数量非常大时，在生成式图模型中实现快速推断。该方法基于迭代潜在变量预选，即在通过学习一个“选择函数”来揭示相关潜在变量，并利用该函数获得用于 EM 算法的后验分布紧凑近似之间交替进行；这使得在潜在状态数量例如随潜在变量数呈指数增长的情况下进行推断成为可能，而精确方法在此类情况下计算上不可行。我们完全通过观测数据和当前 EM 状态，利用高斯过程回归来学习选择函数。这与早期方法形成对比，早期方法中选择函数是为每个问题设置手动设计的。我们表明，我们的方法在各种推断问题上的表现与这些定制的选择函数相当：特别是对于具有遮挡的目标定位分层模型这一挑战性案例，我们以远低于定制的最先进选择方法的计算成本，取得了相匹配的结果。
引用
@article{arxiv.1412.3411,
title = {GP-select: Accelerating EM using adaptive subspace preselection},
author = {Jacquelyn A. Shelton and Jan Gasthaus and Zhenwen Dai and Joerg Luecke and Arthur Gretton},
journal= {arXiv preprint arXiv:1412.3411},
year = {2021}
}