基于答案段落选择的多语言非事实型问答
计算与语言
2025-02-20 v2 人工智能
信息检索
机器学习
摘要
大多数现有的问答数据集主要关注高资源语言中的事实型短上下文问答。然而，此类数据集对低资源语言的覆盖范围仍然有限，仅有少数工作聚焦于事实型问答数据集，且没有涉及非事实型问答。因此，本工作提出了 MuNfQuAD，一个包含非事实型问题的多语言问答数据集。它利用 BBC 新闻文章中的疑问性子标题作为问题，相应段落作为银标准答案。该数据集包含超过 578K 问答对，涵盖 38 种语言，包括若干低资源语言，是迄今为止最大的多语言问答数据集。基于 MuNfQuAD 金标准集的 790 个问答对的人工标注，我们观察到 98% 的问题可以使用其对应的银标准答案来回答。我们微调的答案段落选择（APS）模型优于基线模型。APS 模型在 MuNfQuAD 测试集上达到了 80% 的准确率和 72% 的宏 F1，在金标准集上分别达到了 72% 和 66%。此外，APS 模型能够有效泛化金标准集中某种语言，即使是在银标准标签上微调之后。我们还观察到，微调的 APS 模型有助于缩减问题的上下文。这些发现表明该资源对问答研究社区将是一个有价值的贡献。
引用
@article{arxiv.2408.10604,
title = {Multilingual Non-Factoid Question Answering with Answer Paragraph Selection},
author = {Ritwik Mishra and Sreeram Vennam and Rajiv Ratn Shah and Ponnurangam Kumaraguru},
journal= {arXiv preprint arXiv:2408.10604},
year = {2025}
}
备注
Shorter version accepted into DSFA, a special session in PAKDD 2025, Sydney