超越句子级自然语言推理看待下游任务
计算与语言
2020-09-22 v1 人工智能
机器学习
摘要
近年来,自然语言推理(NLI)任务备受关注,新数据集与模型在该任务上已达成接近人类水平的表现。然而,NLI 的全部潜力——尤其是其所学知识应能泛化至其他下游 NLP 任务——尚未实现。本文从两个下游任务(问答(QA)与文本摘要)的视角研究这一未竟承诺。我们推测,NLI 数据集与这些下游任务的一个关键差异在于前提的长度;并且基于现有 QA 数据集构建长前提 NLI 新数据集是训练真正可泛化 NLI 模型的一条可行途径。我们通过以下方式验证推测:在 QA 任务上展示具竞争力的结果,并在摘要事实正确性核查任务上取得已报道的最佳结果。
引用
@article{arxiv.2009.09099,
title = {Looking Beyond Sentence-Level Natural Language Inference for Downstream Tasks},
author = {Anshuman Mishra and Dhruvesh Patel and Aparna Vijayakumar and Xiang Li and Pavan Kapanipathi and Kartik Talamadupula},
journal= {arXiv preprint arXiv:2009.09099},
year = {2020}
}