教导模型在理解文档后回答问题
计算与语言
2023-07-19 v1
摘要
多选机器阅读理解（MRC）是自然语言处理（NLP）中一项具有挑战性的扩展任务，要求具备理解给定文本中实体间语义与逻辑关系的能力。MRC 任务传统上被视为基于给定文本回答问题的过程。这种单阶段方法常导致网络专注于生成正确答案，可能忽视了对文本本身的理解。因此，许多主流模型在处理较长文本时面临在此任务上表现良好的挑战。在本文中，我们提出了一种两阶段知识蒸馏方法，通过将 MRC 任务划分为两个独立阶段，教导模型更好地理解文档。我们的实验结果表明，配备我们方法的学生模型取得了显著提升，证明了我们方法的有效性。
引用
@article{arxiv.2307.08931,
title = {Teach model to answer questions after comprehending the document},
author = {Ruiqing Sun and Ping Jian},
journal= {arXiv preprint arXiv:2307.08931},
year = {2023}
}