FiMReSt：多元受控偏斜-t 核有限混合——一种面向非对称散布非高斯核多聚类数据的灵活概率模型
机器学习
2023-05-17 v1 信号处理
摘要
近来，偏斜-t 混合模型作为一种灵活的概率建模技术被提出，其同时考虑数据簇的偏度与统计自由度(S-DoF)，以提升建模泛化性以及对重尾和偏度的鲁棒性。本文指出，当前最优的偏斜-t 混合模型从根本上受一种此处命名为“S-DoF 爆炸”的隐藏现象影响，该现象在期望最大化的非凸迭代过程中导致正态核形状的局部极小。本文首次对 S-DoF 的不稳定性提供洞见，其可致核偏离 t 分布混合，丧失泛化性与建模离群值的能力。因此，本文提出一种正则化迭代优化过程以训练混合模型，增强该技术的泛化性与韧性。所得混合模型命名为多元受控偏斜-t (FiMReSt) 核有限混合，其在学习优化过程中稳定 S-DoF 分布。为验证性能，我们在多个真实世界数据集与一合成数据集上进行了综合实验。结果凸显了 (a) FiMReSt 的优越性能，(b) 在离群值存在下的泛化性，以及 (c) S-DoF 的收敛。
引用
@article{arxiv.2305.09071,
title = {FiMReSt: Finite Mixture of Multivariate Regulated Skew-t Kernels -- A Flexible Probabilistic Model for Multi-Clustered Data with Asymmetrically-Scattered Non-Gaussian Kernels},
author = {Sarmad Mehrdad and S. Farokh Atashzar},
journal= {arXiv preprint arXiv:2305.09071},
year = {2023}
}