确立高斯混合模型的可鲁棒学习性
数据结构与算法
2021-07-27 v3 机器学习
统计理论
机器学习
统计理论
摘要
本工作代表了两条重要研究路线的自然融合:高斯混合学习和算法鲁棒统计。具体而言,我们给出了首个可证明鲁棒的学习任意常数个高斯混合的算法。我们仅需要对混合权重作温和假设(有界分数性),且各分量之间的总变差距离有界远离零。我们算法的核心是一种新方法,通过对某些生成函数施加精心选择的微分运算序列来证明维度无关的多项式可辨识性,这些生成函数不仅编码了我们想要学习的参数,还编码了我们想要求解的多项式方程组。我们展示了所推导的符号恒等式如何直接用于分析一种自然的和平方松弛。
引用
@article{arxiv.2011.03622,
title = {Settling the Robust Learnability of Mixtures of Gaussians},
author = {Allen Liu and Ankur Moitra},
journal= {arXiv preprint arXiv:2011.03622},
year = {2021}
}