关于 DeepImpact、COIL 及信息检索技术概念框架的几点简要笔记
信息检索
2021-06-29 v1 计算与语言
摘要
信息检索中表征学习的最新进展可以组织在一个概念框架中，该框架确立了两对对比：稀疏表示与稠密表示，以及无监督表示与学习表示。稀疏学习表示可进一步分解为扩展项和项加权组件。该框架使我们能够理解最近提出的技术（如 DPR、ANCE、DeepCT、DeepImpact 和 COIL）之间的关系，此外，我们的分析所揭示的空白指出了尚未探索的技术中“唾手可得的果实”。我们提出了一种称为“uniCOIL”的新技术，它是 COIL 的简单扩展，据我们所知在流行的 MS MARCO 段落排序数据集上实现了当前稀疏检索的最优性能（SOTA）。我们使用 Anserini 信息检索工具包的实现构建于 Lucene 搜索库之上，因此与标准倒排索引完全兼容。
引用
@article{arxiv.2106.14807,
title = {A Few Brief Notes on DeepImpact, COIL, and a Conceptual Framework for Information Retrieval Techniques},
author = {Jimmy Lin and Xueguang Ma},
journal= {arXiv preprint arXiv:2106.14807},
year = {2021}
}