用于从投影行列式点过程高效采样的Zonotope hit-and-run方法
机器学习
2022-03-22 v2 机器学习
统计计算
摘要
行列式点过程(DPP)是利用核函数对多样性进行建模的集合分布。其在机器学习中的应用包括摘要提取和推荐系统。然而,在大规模应用中,从DPP采样的成本过高,这促使了高效近似采样器的研究。我们构建了一种新颖的MCMC采样器,结合了组合几何、线性规划和蒙特卡洛方法的思想,用于从具有固定样本基数的DPP(也称为投影DPP)中采样。我们的采样器利用了hit-and-run MCMC核在凸体间高效移动的能力。先前的理论结果表明,当目标分布接近投影DPP时,我们的链具有快速混合时间,但一般情况下的DPP并非如此。我们的实证结果表明,这扩展到了对投影DPP的采样,即我们的采样器比先前方法具有更高的样本效率,从而在处理评估成本高昂的函数(如我们实验中的摘要提取)时转化为更快的收敛速度。
引用
@article{arxiv.1705.10498,
title = {Zonotope hit-and-run for efficient sampling from projection DPPs},
author = {Guillaume Gautier and Rémi Bardenet and Michal Valko},
journal= {arXiv preprint arXiv:1705.10498},
year = {2022}
}
备注
12 pages, 12 figures, 2 columns, accepted to ICML 2017