通过排序学习回答问题——通过回答问题学习排序
计算与语言
2019-11-15 v2 机器学习
摘要
在无需显式提供支撑文档的场景下回答多选题,仍是自然语言处理中的核心问题。本文的贡献有两点。首先,它描述了一种可用于对从维基百科或类似自然语言语料库中提取的文档进行语义排序的方法。其次,我们提出了一种采用该语义排序的模型,该模型在 ARC Easy 和 Challenge 这两个最流行的多选题回答排行榜中均位居第一。为此,我们引入了一种基于自注意力的神经网络,它在优化预测正确答案这一目标的同时,潜在地学习根据与给定问题的重要性对文档进行排序。这些文档被视为底层问题的相关上下文。我们已发布排序后的文档,以便它们能够开箱即用,用于改进下游决策模型。
引用
@article{arxiv.1909.00596,
title = {Answering questions by learning to rank -- Learning to rank by answering questions},
author = {George-Sebastian Pîrtoacă and Traian Rebedea and Stefan Ruseti},
journal= {arXiv preprint arXiv:1909.00596},
year = {2019}
}
备注
Presented at EMNLP 2019; 10 pages, 5 figures