玻尔兹曼探索期望最大化

我们提出一种拟合有限混合模型（FMM）的通用方法。混合模型中的学习包括为每个数据点找到最可能的簇分配，以及找到簇本身的参数。在许多混合模型中，使用当前学习方法较为困难，其中最常见的做法是采用单调学习算法，例如常规期望最大化算法。虽然有效，但任何单调算法的成功都关键依赖于良好的参数初始化，其中常见选择是 $K$-means 初始化，通常用于高斯混合模型。对于其他类型的混合模型，获得良好初始化参数的途径通常不明确，并可能需要针对具体问题的解。为此，我们提出一种通用启发式学习算法，利用玻尔兹曼探索将每个观测分配到混合模型中的特定基分布，我们称之为玻尔兹曼探索期望最大化（BEEM）。借助 BEEM，硬分配通过仅以其被分配的观测为条件，实现对每个基分布的直截了当的参数学习。因此，它可应用于任何基分布混合，只要单分量参数学习是可处理的。该随机学习过程能够逃离局部最优，从而对参数初始化不敏感。我们在若干合成基准案例及真实世界数据集上展示了具有竞争力的性能。