事实性、客观性与相关性研究:大规模信息检索中的三个必要条件?
信息检索
2016-10-11 v2
摘要
信息检索(IR)系统处理的信息中有许多是不可靠、有偏见且普遍不可信的[1], [2], [3]。然而,事实性与客观性检测并非 IR 系统的标准组件,尽管过去十年中这在自然语言处理(NLP)领域已成为可能。受此启发,我们探讨事实性与客观性检测是否以及如何有益于 IR。我们分两部分回答此问题。首先,我们使用最先进的 NLP 技术计算两个 TREC 集合中文档的事实性与客观性概率,并分析其与文档相关性的关系。我们发现事实性与文档相关性呈强正相关,但客观性则不然。其次,我们通过将事实性与客观性视为查询无关特征,并将其与竞争性的语言模型基线相结合,研究它们对检索效果的影响。使用 450 个 TREC 查询的实验表明,事实性相较于强基线将精确率提高了 10% 以上,尤其对于网络搜索中使用的未经整理的数据;客观性则给出了混合的结果。一个总体清晰的趋势是,在搜索未经整理(如网页)文档与经过整理(如政府文件与新闻专线文章)的文档时,文档事实性与客观性对 IR 的益处要大得多。据我们所知,这是首个针对后端 IR 的事实性与客观性研究,贡献了关于相关性与事实性/客观性之间关系的新发现,并在竞争性的网络搜索任务中取得了统计上显著的检索效果提升。
引用
@article{arxiv.1610.01327,
title = {A Study of Factuality, Objectivity and Relevance: Three Desiderata in Large-Scale Information Retrieval?},
author = {Christina Lioma and Birger Larsen and Wei Lu and Yong Huang},
journal= {arXiv preprint arXiv:1610.01327},
year = {2016}
}