迁移学习增强的单选决策用于多选问答
计算与语言
2024-04-30 v1
摘要
多选机器阅读理解(MMRC)旨在根据给定的段落和问题，从选项中选择正确答案。现有方法使用预训练语言模型作为编码器，通过微调共享和传递知识。这类方法主要关注设计精妙的机制来有效捕捉段落、问题与答案三者之间的关系。但忽略了由于MMRC的任务特定性质，向如SQuAD等其他MRC任务传递知识这一非平凡但被忽视的问题。本文通过训练二分类器来区分某一答案是否正确，将多选问题重构为单选问题，然后选择置信度最高的选项作为最终答案。我们的方法摆脱了多选框架，能够利用其他任务的资源。我们基于ALBERT-xxlarge模型进行构建，并在RACE和DREAM数据集上进行评估。实验结果表明，我们的模型优于多选方法。此外，通过向其他类型的MRC任务传递知识，我们的模型在单模型和集成设置下均实现了最好的结果。
引用
@article{arxiv.2404.17949,
title = {Transfer Learning Enhanced Single-choice Decision for Multi-choice Question Answering},
author = {Chenhao Cui and Yufan Jiang and Shuangzhi Wu and Zhoujun Li},
journal= {arXiv preprint arXiv:2404.17949},
year = {2024}
}
备注
10 pages, 1 figures.This article supersedes arXiv:2011.03292