中文

基于复合传输散度的混合高斯约简

机器学习 2023-10-18 v5 机器学习

摘要

混合高斯被广泛用于密度估计、置信传播和贝叶斯滤波等各种应用中的密度函数近似。这些应用常将混合高斯用作递归更新的初始近似。这些递归过程中的一个关键挑战源于混合阶数的指数增长,导致难以处理的推断。为克服该困难,可采用混合高斯约简(GMR),即用低阶混合高斯近似高阶混合高斯。尽管现有的基于聚类的方法以其令人满意的性能与计算效率著称,其收敛性质与最优目标仍属未知。本文中,我们提出一种基于复合传输散度(CTD)的基于优化的新颖 GMR 方法。我们开发了用于计算约简混合的主最小化-最小化算法,并在一般条件下建立了其理论收敛性。此外,我们证明许多现有的基于聚类的方法是我们的方法的特例,有效弥合了基于优化与基于聚类技术之间的鸿沟。我们的统一框架使用户能够在 CTD 中选择最适当的代价函数,以在其特定应用中获得更优性能。通过大量实证实验,我们展示了所提方法的效率与有效性,彰显了其在多领域的潜力。

关键词

引用

@article{arxiv.2002.08410,
  title  = {Gaussian Mixture Reduction with Composite Transportation Divergence},
  author = {Qiong Zhang and Archer Gong Zhang and Jiahua Chen},
  journal= {arXiv preprint arXiv:2002.08410},
  year   = {2023}
}