非正态专家混合模型

专家混合(MoE)是一种用于对回归、分类和聚类中的数据异质性进行建模的流行框架。对于我们在回归和聚类分析背景下考虑的连续数据，MoE通常使用正态专家，即遵循高斯分布的分量。然而，对于包含具有非对称行为、重尾或异常观测的一个或一组观测的数据集，使用正态专家可能不合适，并会不适当地影响MoE模型的拟合。本文中，我们引入新的非正态专家混合(NNMoE)，其能处理这些关于可能偏斜、重尾数据和离群点的问题。所提出的模型分别为偏正态MoE、鲁棒$t$ MoE和偏$t$ MoE，依次命名为SNMoE、TMoE和STMoE。我们开发了专用的期望最大化(EM)和期望条件最大化(ECM)算法，通过单调最大化观测数据对数似然来估计所提模型的参数。我们描述了所呈现的模型如何用于回归数据的预测和基于模型的聚类。在模拟数据上进行的数值实验显示了所提模型在建模非线性回归函数以及基于模型聚类方面的有效性和鲁棒性。然后，为展示其实用性，所提模型被应用于音乐数据分析的音调感知真实数据，以及气候变化数据分析的温度异常真实数据。