KG-MTT-BERT:知识图谱增强的 BERT 用于多类型医疗文本分类
计算与语言
2022-10-11 v1 人工智能
机器学习
摘要
由于电子健康记录(EHR)系统的广泛采用,医疗文本学习近来已成为一个有前景的改善医疗的领域。医疗文本的复杂性,如长度多样、文本类型混杂以及充满医学术语,给开发有效的深度学习模型带来了巨大挑战。BERT 在许多 NLP 任务(如文本分类与问答)中展现了最先进的结果。然而,独立的 BERT 模型无法处理医疗文本的复杂性,尤其是冗长的临床笔记。在此,我们通过扩展 BERT 模型以处理长且多类型的文本,并整合医疗知识图谱,开发了一种称为 KG-MTT-BERT(知识图谱增强多类型文本 BERT)的新模型。我们的模型在诊断相关组(DRG)分类中优于所有基线与其他最先进模型,该任务需要全面的医疗文本以进行准确分类。我们还证明了我们的模型能有效处理多类型文本,且医疗知识图谱的整合可显著提升性能。
引用
@article{arxiv.2210.03970,
title = {KG-MTT-BERT: Knowledge Graph Enhanced BERT for Multi-Type Medical Text Classification},
author = {Yong He and Cheng Wang and Shun Zhang and Nan Li and Zhaorong Li and Zhenyu Zeng},
journal= {arXiv preprint arXiv:2210.03970},
year = {2022}
}