NevIR:神经信息检索中的否定
信息检索
2024-02-28 v2 计算与语言
摘要
否定是一种常见的日常现象,且一直是语言模型(LM)的持续性弱点。尽管信息检索(IR)社区已将LM采纳为现代IR架构的骨干,但在理解否定如何影响神经IR方面几乎尚无研究。因此我们构建了一个关于该主题的直接基准:要求IR模型对仅因否定而不同的两篇文档排序。我们表明结果因IR架构类型而异:交叉编码器表现最佳,其次是晚期交互模型,最后是双编码器与稀疏神经架构。我们发现大多数信息检索模型(包括SOTA模型)不考虑否定,表现与随机排序相同或更差。我们表明,尽管在包含否定的对比文档数据集上继续微调的显见方法(以及模型规模增大)能提升性能,但机器与人类性能之间仍存在巨大差距。
引用
@article{arxiv.2305.07614,
title = {NevIR: Negation in Neural Information Retrieval},
author = {Orion Weller and Dawn Lawrie and Benjamin Van Durme},
journal= {arXiv preprint arXiv:2305.07614},
year = {2024}
}
备注
Accepted to EACL 2024