加速搜索结果多样化中马尔可夫决策过程收敛率的新方法
信息检索
2018-02-26 v1
摘要
近来,一些研究利用马尔可夫决策过程进行搜索结果多样化(MDP-DIV)。尽管能取得有前景的性能,MDP-DIV 存在收敛极慢的问题,阻碍了其在实际应用中的可用性。在本文中,我们旨在不牺牲太多准确性的前提下,通过加快收敛率来提升 MDP-DIV 的性能。收敛缓慢由两个主要原因造成:动作空间大和数据稀缺。一方面,每个位置的顺序决策需要评估候选集中所有查询-文档相关性,导致 MDP 的搜索空间巨大;另一方面,由于数据稀缺,智能体不得不与环境进行更多“试错”交互。为解决该问题,我们提出 MDP-DIV-kNN 和 MDP-DIV-NTN 方法。MDP-DIV-kNN 方法采用 近邻策略,即丢弃最近选择动作(文档)的 个最近邻,以缩减多样化搜索空间。MDP-DIV-NTN 采用预训练的多样化神经张量网络(NTN-DIV)作为评估模型,并将其结果与 MDP 结合产生最终排序解。实验结果表明,这两种提出的方法确实将 MDP-DIV 的收敛率加快了 3 倍,同时产生的准确性几乎未下降,甚至更优。
引用
@article{arxiv.1802.08401,
title = {Novel Approaches to Accelerating the Convergence Rate of Markov Decision Process for Search Result Diversification},
author = {Feng Liu and Ruiming Tang and Xutao Li and Yunming Ye and Huifeng Guo and Xiuqiang He},
journal= {arXiv preprint arXiv:1802.08401},
year = {2018}
}
备注
This research work has been accepted by DASFAA'18