IRGAN:统一生成式与判别式信息检索模型的极小极大博弈
信息检索
2018-02-23 v2 机器学习
摘要
本文对信息检索建模中的两种思想流派进行了统一阐述:关注于给定查询预测相关文档的生成式检索,以及关注于给定查询-文档对预测相关性的判别式检索。我们提出了一种博弈论的极小极大博弈来迭代优化这两种模型。一方面,判别式模型旨在从有标签和无标签数据中挖掘信号,为训练生成式模型提供指导,使其拟合给定查询下文档的相关性分布。另一方面,生成式模型作为当前判别式模型的攻击者,通过最小化其判别目标,以对抗的方式为判别式模型生成困难样本。通过这两种模型之间的竞争,我们展示了该统一框架兼具两种思想流派的优势:(i) 生成式模型通过来自判别式模型的信号学习拟合文档上的相关性分布,(ii) 判别式模型能够利用生成式模型选择的无标签数据,以实现对文档排序的更佳估计。我们的实验结果在包括网页搜索、项目推荐和问答在内的多种应用中,相较于强基线模型,在Precision@5上实现了高达23.96%的提升,在MAP上实现了高达15.50%的提升。
引用
@article{arxiv.1705.10513,
title = {IRGAN: A Minimax Game for Unifying Generative and Discriminative Information Retrieval Models},
author = {Jun Wang and Lantao Yu and Weinan Zhang and Yu Gong and Yinghui Xu and Benyou Wang and Peng Zhang and Dell Zhang},
journal= {arXiv preprint arXiv:1705.10513},
year = {2018}
}
备注
12 pages; appendix added