混合模型与隐马尔可夫模型的矩估计法
机器学习
2012-09-07 v3 机器学习
摘要
混合模型是应用统计学和机器学习中用于处理来自多个子群体数据的基本工具。目前估计此类模型参数的做法依赖于局部搜索启发式算法（例如 EM 算法），这些算法容易失败；而现有的相合方法则因其高昂的计算和样本复杂度而不受欢迎，这些复杂度通常随混合分量数量呈指数级增长。本工作开发了一种高效的矩估计方法，用于参数估计一大类具有多分量的高维混合模型，包括高斯多视图混合模型（如轴对齐高斯混合模型）和隐马尔可夫模型。新方法为混合模型带来了以往工作未能实现的严格无监督学习结果；并且，由于其简洁性，它为实际部署提供了一种可行的 EM 算法替代方案。
引用
@article{arxiv.1203.0683,
title = {A Method of Moments for Mixture Models and Hidden Markov Models},
author = {Animashree Anandkumar and Daniel Hsu and Sham M. Kakade},
journal= {arXiv preprint arXiv:1203.0683},
year = {2012}
}