使用 BERT 进行段落重排序
信息检索
2020-04-15 v5 计算与语言
机器学习
摘要
近来，在语言建模任务上预训练的神经网络模型，如 ELMo（Peters 等，2017）、OpenAI GPT（Radford 等，2018）和 BERT（Devlin 等，2018），在各种自然语言处理任务（如问答与自然语言推理）上取得了令人印象深刻的成果。本文描述了一种基于查询的段落重排序的 BERT 简单重实现。我们的系统在 TREC-CAR 数据集上达到当前最优（state of the art, SOTA），并在 MS MARCO 段落检索任务排行榜中位居首位，在 MRR@10 上相对先前最优提升 27%。复现我们结果的代码见 https://github.com/nyu-dl/dl4marco-bert
引用
@article{arxiv.1901.04085,
title = {Passage Re-ranking with BERT},
author = {Rodrigo Nogueira and Kyunghyun Cho},
journal= {arXiv preprint arXiv:1901.04085},
year = {2020}
}