将语义信息整合入Retro-Reader的略读模块以用于越南语机器阅读理解
计算与语言
2023-01-03 v1
摘要
机器阅读理解近年来已成为自然语言处理领域中最前沿且热门的研究课题之一。可回答性问题的分类是机器阅读理解中一个相当重要的子任务；然而，相关研究尚不多见。Retro-Reader是有效解决该问题的研究之一。不过，总体而言大多数传统机器阅读理解模型（具体而言包括Retro-Reader）的编码器都未能充分利用上下文的语境语义信息。受SemBERT启发，我们利用来自SRL任务的语义角色标签为mBERT、XLM-R、PhoBERT等预训练语言模型增添语义。本实验旨在比较语义对越南语机器阅读理解中可回答性分类的影响。此外，我们希望该实验能增强Retro-Reader模型略读模块的编码器。融合语义的改进Retro-Reader模型编码器首次应用于越南语机器阅读理解任务，并取得了积极结果。
引用
@article{arxiv.2301.00429,
title = {Integrating Semantic Information into Sketchy Reading Module of Retro-Reader for Vietnamese Machine Reading Comprehension},
author = {Hang Thi-Thu Le and Viet-Duc Ho and Duc-Vu Nguyen and Ngan Luu-Thuy Nguyen},
journal= {arXiv preprint arXiv:2301.00429},
year = {2023}
}
备注
In Proceedings of the 9th NAFOSTED Conference on Information and Computer Science (NICS 2022)