用于基于EM大规模学习的扰动邻近预条件SPIDER算法
机器学习
2021-05-26 v1 信号处理
摘要
增量期望最大化(EM)算法通过避免每轮迭代处理完整数据集而被引入,以设计面向大规模学习框架的EM。然而,这些算法均假设充分统计量的条件期望是显式的。本文中,我们提出一种名为扰动邻近预条件SPIDER(3P-SPIDER)的新算法,其构建于随机路径积分微分估计器EM(SPIDER-EM)算法之上。3P-SPIDER算法解决了EM的E步诸多难解性问题;它还处理非光滑正则化与凸约束集。数值实验表明3P-SPIDER优于其他增量EM方法,并讨论了若干设计参数的作用。
引用
@article{arxiv.2105.11732,
title = {The Perturbed Prox-Preconditioned SPIDER algorithm for EM-based large scale learning},
author = {Gersende Fort and Eric Moulines},
journal= {arXiv preprint arXiv:2105.11732},
year = {2021}
}