有限混合模型的超越性正则化：理论保证与实际局限性
机器学习
2026-02-05 v1 机器学习
摘要
有限混合模型广泛用于无监督学习，但通过 EM 方法进行的最大似然估计会因组件坍缩而出现退化问题。我们引入超越性正则化，这是一种带有解析屏障函数的惩罚似然框架，能够防止坍缩同时保持渐近效率。 resulting Transcendental Algorithm for Mixtures of Distributions (TAMD) 提供了强大的理论保证：可识别性、一致性和鲁棒性。实验上，TAMD 成功稳定了估计并防止坍缩，但仅实现了分类准确率的适度提升——这凸显了混合模型在高维无监督学习中的根本局限。我们的工作提供了新的理论框架并对实际局限性进行了诚实的评估，已实现为开源 R 包。
引用
@article{arxiv.2602.03889,
title = {Transcendental Regularization of Finite Mixtures:Theoretical Guarantees and Practical Limitations},
author = {Ernest Fokoué},
journal= {arXiv preprint arXiv:2602.03889},
year = {2026}
}
备注
24 pages, 6 figures, 2 tables