面向判别式阅读理解的统一轻量建模
计算与语言
2022-03-29 v1 人工智能
摘要
作为机器阅读理解(MRC)中广泛且主要的一类,判别式 MRC 的广义目标是从给定材料中预测答案。然而,各类判别式 MRC 任务的关注点可能足够多样:多选 MRC 要求模型全局地凸显并整合所有潜在关键证据;而抽取式 MRC 聚焦于答案抽取的更高局部边界精确性。在以往工作中,缺乏针对整体判别式 MRC 任务的有的放矢的统一设计。为填补上述空白,我们提出一种轻量的词性增强迭代协同注意力网络(POI-Net),作为具有针对性的统一建模的首次尝试,以同步处理多样的判别式 MRC 任务。我们的轻量统一设计几乎不引入更多参数,在编码器与解码器组件上均为模型带来显著改进。在四个判别式 MRC 基准上的评测结果一致表明了模型的通用有效性与适用性,代码见 https://github.com/Yilin1111/poi-net。
引用
@article{arxiv.2203.14103,
title = {Lite Unified Modeling for Discriminative Reading Comprehension},
author = {Yilin Zhao and Hai Zhao and Libin Shen and Yinggong Zhao},
journal= {arXiv preprint arXiv:2203.14103},
year = {2022}
}
备注
Accepted by ACL 2022 Main Conference, Long Paper