基于样本重加权的多任务学习用于机器阅读理解
计算与语言
2019-04-02 v3 机器学习
摘要
我们提出了一种多任务学习框架，用于学习一个联合的机器阅读理解（MRC）模型，该模型可应用于不同领域中广泛的 MRC 任务。受机器翻译中近期数据选择思想的启发，我们开发了一种新颖的样本重加权方案，为损失分配样本特定的权重。实证研究表明，我们的方法可应用于许多现有的 MRC 模型。结合来自预训练语言模型（如 ELMo）的上下文表示，我们在一组 MRC 基准数据集上取得了新的最先进（state-of-the-art）结果。我们在 https://github.com/xycforgithub/MultiTask-MRC 发布了代码。
引用
@article{arxiv.1809.06963,
title = {Multi-task Learning with Sample Re-weighting for Machine Reading Comprehension},
author = {Yichong Xu and Xiaodong Liu and Yelong Shen and Jingjing Liu and Jianfeng Gao},
journal= {arXiv preprint arXiv:1809.06963},
year = {2019}
}
备注
North American Chapter of the Association for Computational Linguistics (NAACL) 2019