何时弃局:如何回答不可回答问题
计算与语言
2021-05-04 v1
摘要
我们提出了在 SQuAD2.0 数据集上训练的 3 种不同问答模型——BIDAF、DocumentQA 和 ALBERT Retro-Reader——展示了过去三年中语言模型的改进。通过对用于问答的预训练模型进行微调的研究,我们开发了一种新方法,能够在更短的训练时间内在 SQuAD2.0 F1 上取得 2% 点的提升。我们对参数共享语言模型的选定层进行重新初始化的方法简单却在经验上十分有效。
引用
@article{arxiv.2105.00328,
title = {When to Fold'em: How to answer Unanswerable questions},
author = {Marshall Ho and Zhipeng Zhou and Judith He},
journal= {arXiv preprint arXiv:2105.00328},
year = {2021}
}