面向生物医学事实型问答的数据增强
计算与语言
2022-04-12 v1 人工智能
摘要
我们研究了七种数据增强（da）方法在事实型问答中的效果，重点关注生物医学领域，该领域获取训练实例尤为困难。我们使用来自BioASQ挑战赛的数据进行实验，通过人工生物医学机器阅读理解数据集获取训练实例，或经由回译、信息检索、基于word2vec词嵌入的词语替换、掩码语言建模、问题生成，或将给定段落扩展以附加上下文来进行增强。我们表明，即使在使用大型预训练Transformer时，da也能带来非常显著的性能提升，这有助于更广泛地讨论da何时/是否有利于大型预训练模型。最简单的da方法之一，基于word2vec的词语替换，表现最佳，特此推荐。我们发布了人工训练实例与代码。
引用
@article{arxiv.2204.04711,
title = {Data Augmentation for Biomedical Factoid Question Answering},
author = {Dimitris Pappas and Prodromos Malakasiotis and Ion Androutsopoulos},
journal= {arXiv preprint arXiv:2204.04711},
year = {2022}
}