从基本特征到额外特征:基于超图Transformer预训练-微调的电子健康记录平衡临床预测
机器学习
2024-06-11 v1 人工智能
摘要
电子健康记录(EHR)包含丰富的患者信息,对临床研究和实践至关重要。近年来,深度学习模型已被应用于EHR,但它们通常依赖于大量特征,而这些特征可能并非对所有患者都立即可用。我们提出了HTP-Star,它利用超图结构结合预训练-微调框架对EHR数据进行建模,从而能够无缝集成额外特征。此外,我们设计了两种技术,即(1)平滑诱导正则化和(2)组平衡重加权,以增强模型在微调过程中的鲁棒性。通过在两个真实EHR数据集上进行的实验,我们证明HTP-Star在平衡具有基本特征和额外特征的患者的同时,始终优于各种基线方法。
引用
@article{arxiv.2406.05682,
title = {From Basic to Extra Features: Hypergraph Transformer Pretrain-then-Finetuning for Balanced Clinical Predictions on EHR},
author = {Ran Xu and Yiwen Lu and Chang Liu and Yong Chen and Yan Sun and Xiao Hu and Joyce C Ho and Carl Yang},
journal= {arXiv preprint arXiv:2406.05682},
year = {2024}
}
备注
CHIL 2024