一种内存高效的开放域问答基线
计算与语言
2021-01-01 v1
摘要
近来，基于稠密表示的检索系统在开放域问答及相关任务中带来了重要改进。尽管非常有效，该方法也占用大量内存，因为整个知识源的稠密向量都需保存在内存中。本文研究如何缩减稠密检索器-阅读器系统的内存占用。我们考虑三种缩减索引大小的策略：降维、向量量化与段落过滤。我们在两个问答基准 TriviaQA 和 NaturalQuestions 上评估了我们的方法，表明使用少于 6Gb 内存即可获得具有竞争力的系统。
引用
@article{arxiv.2012.15156,
title = {A Memory Efficient Baseline for Open Domain Question Answering},
author = {Gautier Izacard and Fabio Petroni and Lucas Hosseini and Nicola De Cao and Sebastian Riedel and Edouard Grave},
journal= {arXiv preprint arXiv:2012.15156},
year = {2021}
}