自然语言中词突发性的建模:信息检索中文档语言模型的广义 Polya 过程
信息检索
2017-08-22 v1
摘要
我们引入了一种用于文档语言建模的广义多元 Polya 过程。本文概述的框架推广了信息检索中用于建模文档生成的多种统计语言模型。特别地,我们表明替换矩阵 M 的选择最终决定了随机过程的类型,从而定义了特定类型的文档语言模型。我们证明了该广义模型的一个特定变体可用于建模特定于词项的突发性。此外,通过实验表明,在多个小型测试集上,该变体相较于强基线显著提升了检索有效性。
关键词
引用
@article{arxiv.1708.06011,
title = {Modelling Word Burstiness in Natural Language: A Generalised Polya Process for Document Language Models in Information Retrieval},
author = {Ronan Cummins},
journal= {arXiv preprint arXiv:1708.06011},
year = {2017}
}
备注
12 pages