通过从大规模细粒度监督数据迁移学习进行问答
计算与语言
2018-06-22 v6
摘要
我们表明，问答 (QA) 任务可以显著受益于从不同的大规模、细粒度 QA 数据集上训练的模型进行的迁移学习。通过对 SQuAD 采用基本的迁移学习技术，我们在两个经过充分研究的 QA 数据集 WikiQA 和 SemEval-2016 (Task 3A) 上达到了最先进水平 (state of the art)。对于 WikiQA，我们的模型性能比之前的最佳模型高出 8% 以上。我们通过定量结果和可视化分析证明，相比粗粒度监督，细粒度监督为学习词汇和句法信息提供了更好的指导。我们还表明，类似的迁移学习过程在蕴含任务上也达到了最先进水平。
引用
@article{arxiv.1702.02171,
title = {Question Answering through Transfer Learning from Large Fine-grained Supervision Data},
author = {Sewon Min and Minjoon Seo and Hannaneh Hajishirzi},
journal= {arXiv preprint arXiv:1702.02171},
year = {2018}
}
备注
Published as a conference paper at ACL 2017 (short paper). Code available at https://github.com/shmsw25/qa-transfer