稀疏无限随机特征潜变量建模
机器学习
2022-05-30 v2 人工智能
机器学习
摘要
我们提出了一种非线性、贝叶斯非参数潜变量模型,其中潜空间先验地假设为稀疏且无限维的,使用印度自助餐过程先验。后验地,潜空间中实例化的维数保证为有限。将印度自助餐过程置于潜变量上的目的是:1.) 自动且概率性地选择潜变量维数。2.) 在潜空间中施加稀疏性,其中印度自助餐过程将选择哪些元素恰好为零。我们提出的模型允许进行稀疏、非线性潜变量建模,其中潜变量维数自动选择。使用随机傅里叶近似使推断可行,并且我们可以通过马尔可夫链蒙特卡罗采样轻松实现后验推断。该方法适用于高斯设定之外的许多观测模型。我们在多种合成、生物和文本数据集上展示了我们方法的效用,并表明与先前的潜变量模型相比,我们可以获得更优的测试集性能。
引用
@article{arxiv.2205.09909,
title = {Sparse Infinite Random Feature Latent Variable Modeling},
author = {Michael Minyi Zhang},
journal= {arXiv preprint arXiv:2205.09909},
year = {2022}
}