MT-Clinical BERT:以多任务学习扩展临床信息抽取
计算与语言
2020-04-23 v1 信息检索
机器学习
摘要
临床记录中包含大量关于患者的重要但难以直接获取的信息。自动抽取这些信息的系统依赖于大量训练数据,而用于创建这些数据的资源十分有限。此外,它们是各自独立开发的;这意味着任务专用系统之间无法共享信息。这一瓶颈不必要地使实际应用复杂化,降低了每个独立解决方案的性能能力,并带来了管理多个信息抽取系统的工程负担。我们通过开发 Multitask-Clinical BERT(多任务临床 BERT)来解决这些挑战:这是一个单一的深度学习模型,通过任务间共享表示,同时执行涵盖实体抽取、受保护健康信息(PHI)识别、语言蕴含与相似度在内的八项临床任务。我们发现我们的单一系统在与所有最先进(SOTA)的任务专用系统竞争时表现相当,同时在推理时还受益于巨大的计算优势。
引用
@article{arxiv.2004.10220,
title = {MT-Clinical BERT: Scaling Clinical Information Extraction with Multitask Learning},
author = {Andriy Mulyar and Bridget T. McInnes},
journal= {arXiv preprint arXiv:2004.10220},
year = {2020}
}