ArchivalQA:面向历史新闻集合开放域问答的大规模基准数据集
计算与语言
2022-02-23 v4 人工智能
摘要
近年来,得益于深度学习技术的发展与大规模 QA 数据集的可用,开放域问答(ODQA)取得了快速进展。然而,当前数据集本质上针对共时性文档集合(如维基百科)设计。尽管长期跨数十年的新闻档案等时序新闻集合对社会极具价值,却极少用于模型训练。为推动此类历史集合上 ODQA 领域的研究,我们提出 ArchivalQA,一个由 532,444 个问答对组成、面向时序新闻问答的大规模问答数据集。我们根据问题难度级别与时态表达式的包含情况将数据集划分为四个子集,认为这有助于训练和测试具备不同优势与能力的 ODQA 系统。我们引入的新颖 QA 数据集构建框架也可用于在其他类型的时序文档集合上生成无歧义的高质量问题。
引用
@article{arxiv.2109.03438,
title = {ArchivalQA: A Large-scale Benchmark Dataset for Open Domain Question Answering over Historical News Collections},
author = {Jiexin Wang and Adam Jatowt and Masatoshi Yoshikawa},
journal= {arXiv preprint arXiv:2109.03438},
year = {2022}
}