非对称行列式点过程的可扩展 MCMC 采样

Insu Han; Mike Gartrell; Elvis Dohmatob; Amin Karbasi

非对称行列式点过程的可扩展 MCMC 采样

机器学习 2022-07-04 v1 机器学习

作者: Insu Han , Mike Gartrell , Elvis Dohmatob , Amin Karbasi

摘要

行列式点过程（DPP）是一种优雅的模型，它为 $n$ 个物品的每个子集分配一个概率。虽然传统上 DPP 由对称核矩阵参数化，但移除这一对称性约束会得到非对称 DPP（NDPP），从而显著提升建模能力与预测性能。近期工作研究了针对限定大小为 $k$ 的子集（称为 $k$ -NDPP）的近似马尔可夫链蒙特卡洛（MCMC）采样算法。然而，该方法的运行时间关于 $n$ 是二次的，使其在大规模设定中不可行。在本工作中，我们为具有低秩核的 $k$ -NDPP 开发了可扩展的 MCMC 采样算法，从而实现关于 $n$ 次线性的运行时间。我们的方法基于最先进的 NDPP 拒绝采样算法，并通过一种高效构造提议分布的新方法对其增强。此外，我们将可扩展的 $k$ -NDPP 采样算法推广到无大小约束的 NDPP。我们所得的采样方法在核的秩上具有多项式时间复杂度，而现有方法的时间复杂度在秩上是指数的。通过理论分析和在真实数据集上的实验，我们验证了我们的可扩展近似采样算法比现有的 $k$ -NDPP 与 NDPP 采样方法快数个数量级。

关键词

行列式点过程非对称 DPP MCMC 采样低秩核拒绝采样可扩展算法

引用

@article{arxiv.2207.00486,
  title  = {Scalable MCMC Sampling for Nonsymmetric Determinantal Point Processes},
  author = {Insu Han and Mike Gartrell and Elvis Dohmatob and Amin Karbasi},
  journal= {arXiv preprint arXiv:2207.00486},
  year   = {2022}
}

备注

ICML 2022

非对称行列式点过程的可扩展 MCMC 采样

摘要

关键词

引用

备注

相关论文