通过校正性负采样学习行列式点过程
机器学习
2019-02-27 v4
摘要
行列式点过程（DPPs）因其能够优雅且可处理地对集合的质量与多样性之间的微妙平衡建模，而引起了机器学习界的显著兴趣。DPPs 通常使用最大似然估计（MLE）从数据中学习。虽然能很好地拟合观测集合，DPPs 的 MLE 也可能对远离数据真实生成分布的未观测集合赋予高似然。为解决这一降低所学模型质量的问题，我们引入了一种新的优化问题——对比估计（CE），其将关于“负”样本的信息编码进基础学习模型。CE 立足于负信息在机器视觉与语言建模中的成功应用。依据所选择的负分布（可为静态或在优化中演化），CE 呈现两种不同形式，我们对此进行了理论与实验分析。我们在真实世界数据集上评估了新模型；在一个具有挑战性的数据集上，CE 学习相较未使用对比信息的 DPP 在预测性能上带来了可观提升。
引用
@article{arxiv.1802.05649,
title = {Learning Determinantal Point Processes by Corrective Negative Sampling},
author = {Zelda Mariet and Mike Gartrell and Suvrit Sra},
journal= {arXiv preprint arXiv:1802.05649},
year = {2019}
}
备注
Will appear in AISTATS 2019