高斯混合专家模型的收敛速率
统计理论
2022-03-09 v2 机器学习
机器学习
统计理论
摘要
我们对具有无协变量门控网络的高斯混合专家过指定模型提供了理论处理。我们建立了这些模型的最大似然估计(MLE)的收敛速率。我们的证明技术基于专家函数的一种新颖的“代数独立性”概念。借助最优传输理论,我们建立了代数独立性与某类偏微分方程(PDEs)之间的联系。利用这一联系,我们推导出了参数估计的收敛速率与极小极大下界。
引用
@article{arxiv.1907.04377,
title = {Convergence Rates for Gaussian Mixtures of Experts},
author = {Nhat Ho and Chiao-Yu Yang and Michael I. Jordan},
journal= {arXiv preprint arXiv:1907.04377},
year = {2022}
}
备注
81 pages