分布族的多项式学习
机器学习
2010-05-13 v1 数据结构与算法
摘要
概率分布(特别是高斯混合分布)的多项式可学习性问题,近年来在理论计算机科学和机器学习中受到了显著关注。然而,尽管取得了重大进展,高斯混合分布多项式可学习性的一般问题仍然悬而未决。当前工作解决了高维中具有任意固定分量数的高斯混合的多项式可学习性问题。关于学习高斯混合的结果依赖于对低维中属于我们称之为“多项式族”的分布的分析。这些族的特征是其矩是参数的多元多项式,并且几乎包括所有常见概率分布及其混合和乘积。利用实代数几何的工具,我们表明属于此类族的任何分布的参数都可以在多项式时间内并使用多项式数量的样本点进行学习。关于学习多项式族的结果相当普遍,并具有独立的意义。为了估计高维高斯混合分布的参数,我们提供了一种用于降维的确定性算法。这使我们能够将学习高维混合问题简化为多项式数量的低维参数估计问题。将此降维与多项式族的结果相结合,得出了我们在高维中学习任意高斯混合的结果。
引用
@article{arxiv.1004.4864,
title = {Polynomial Learning of Distribution Families},
author = {Mikhail Belkin and Kaushik Sinha},
journal= {arXiv preprint arXiv:1004.4864},
year = {2010}
}
备注
24 pages