基于 BERT 与 GPT-2 的 COVID-19 医学研究论文自动文本摘要
计算与语言
2020-06-04 v1 机器学习
摘要
随着 COVID-19 大流行,医学界迫切需要将自身与新型冠状病毒相关文献的加速增长保持同步。为此,COVID-19 开放研究数据集挑战赛发布了一个学术文章语料库,并呼吁采用机器学习方法来帮助弥合研究人员与快速增长出版物之间的鸿沟。在此,我们利用预训练 NLP 模型 BERT 与 OpenAI GPT-2 的最新进展,通过对该数据集进行文本摘要来解决此挑战。我们使用 ROUGE 分数与视觉检查评估结果。我们的模型基于从原始文章中提取的关键词,提供抽取式且全面的信息。我们的工作可通过为尚无摘要的文章提供简洁摘要,来帮助医学界。
引用
@article{arxiv.2006.01997,
title = {Automatic Text Summarization of COVID-19 Medical Research Articles using BERT and GPT-2},
author = {Virapat Kieuvongngam and Bowen Tan and Yiming Niu},
journal= {arXiv preprint arXiv:2006.01997},
year = {2020}
}