面向医学问答的带干扰项与线索掩蔽的多项选择题生成
计算与语言
2023-03-14 v1
摘要
医学多项选择题问答(MCQA)尤为困难。题目可能描述患者症状并要求给出正确诊断,这需要领域知识和复杂推理。仅依靠标准语言建模预训练不足以取得最佳结果。\citet{jin2020disease} 表明,在以医学百科段落作为输入时,将掩蔽语言建模聚焦于疾病名称预测可显著提升 MCQA 准确率。本工作中,我们表明:(1)在生成的 MCQA 数据集上微调优于基于掩蔽语言建模的目标;(2)正确掩蔽答案线索对良好性能至关重要。我们发布了新的预训练数据集,并在 4 个 MCQA 数据集上取得了最先进结果,其中在 MedQA-USMLE 上以 base 规模模型显著提升了 +5.7%。
引用
@article{arxiv.2303.07069,
title = {Generating multiple-choice questions for medical question answering with distractors and cue-masking},
author = {Damien Sileo and Kanimozhi Uma and Marie-Francine Moens},
journal= {arXiv preprint arXiv:2303.07069},
year = {2023}
}