多模态电子健康记录的分层预训练
人工智能
2023-10-23 v2
摘要
预训练已被证明是自然语言处理（NLP）中一种强大的技术，在各种NLP下游任务中展现出显著成功。然而，在医疗领域，现有的电子健康记录（EHR）预训练模型未能捕捉EHR数据的分层特性，限制了单一预训练模型在多样化下游任务中的泛化能力。为应对此挑战，本文提出一种新颖、通用且统一的预训练框架MEDHMP，专为分层多模态EHR数据设计。所提MEDHMP的有效性通过跨越三个层级的八个下游任务的实验结果得到验证。与十八个基线的对比进一步凸显了我们方法的效能。
引用
@article{arxiv.2310.07871,
title = {Hierarchical Pretraining on Multimodal Electronic Health Records},
author = {Xiaochen Wang and Junyu Luo and Jiaqi Wang and Ziyi Yin and Suhan Cui and Yuan Zhong and Yaqing Wang and Fenglong Ma},
journal= {arXiv preprint arXiv:2310.07871},
year = {2023}
}
备注
Accepted by EMNLP 2023