非参数模型的谱方法
机器学习
2017-04-04 v1 机器学习
摘要
非参数模型是用于建模混合模型的一种灵活但计算昂贵的工具。在本文中，我们引入了针对两种最流行的非参数模型的谱方法：Indian Buffet Process (IBP) 和 Hierarchical Dirichlet Process (HDP)。我们证明，使用谱方法进行非参数模型的推断在计算和统计上都是高效的。具体而言，我们推导了 IBP 和 HDP 的低阶矩，为这两种模型提出了谱算法，并提供了算法的重建保证。对于 HDP，我们进一步表明，在具有层级结构的数据集上应用层级模型（可通过广义谱 HDP 求解），在似然性能方面比扁平模型产生更好的解。
引用
@article{arxiv.1704.00003,
title = {Spectral Methods for Nonparametric Models},
author = {Hsiao-Yu Fish Tung and Chao-Yuan Wu and Manzil Zaheer and Alexander J. Smola},
journal= {arXiv preprint arXiv:1704.00003},
year = {2017}
}
备注
Keywords: Spectral Methods, Indian Buffet Process, Hierarchical Dirichlet Process