中文

未知成分数回归混合模型的无监督学习

统计方法学 2014-09-25 v1 机器学习 机器学习

摘要

回归混合模型在统计学、机器学习和数据分析中得到了广泛研究。拟合回归混合模型具有挑战性,通常通过使用期望最大化(EM)算法进行最大似然估计来完成。然而,众所周知,初始化对EM算法至关重要。如果初始化不当,EM算法可能导致不令人满意的结果。EM算法还需要预先给定聚类数目;选择混合成分数目的问题需要使用模型选择准则从一组预先估计的候选模型中选择一个。我们提出了一种新的全无监督算法,用于学习成分数目未知的回归混合模型。所开发的无监督学习方法包括通过一个稳健的期望最大化(EM)算法进行的惩罚最大似然估计,用于拟合多项式、样条和B样条回归混合模型。所提出的学习方法是完全无监督的:1)它在学习过程中同时从数据中推断模型参数和回归混合成分的最优数目,而不是像标准的基于模型的聚类那样,事后使用模型选择准则的两步方案;2)与用于回归混合的标准EM算法不同,它不需要精确的初始化。所开发的方法被应用于曲线聚类问题。在模拟数据上的数值实验表明,所提出的稳健EM算法表现良好,并在初始化稳健性和以实际聚类数目检索最优划分方面提供了准确的结果。在函数型数据聚类框架下对真实数据的应用,证实了该方法在实际应用中的益处。

关键词

引用

@article{arxiv.1409.6981,
  title  = {Unsupervised learning of regression mixture models with unknown number of components},
  author = {Faicel Chamroukhi},
  journal= {arXiv preprint arXiv:1409.6981},
  year   = {2014}
}