用于多模态电子健康记录动态嵌入与分词的时间交叉注意力机制
机器学习
2024-04-03 v2
摘要
现代电子健康记录 (EHR) 系统的广度、规模和时间粒度为利用序列深度学习估计个性化和情境化的患者健康轨迹提供了巨大潜力。然而，由于 EHR 数据具有高维性、稀疏性、多模态性、不规则且特定于变量的记录频率，以及同时记录多个测量值时的时间戳重复等问题，学习有用的 EHR 数据表示具有挑战性。尽管最近融合结构化 EHR 和非结构化临床笔记的努力表明有可能更准确地预测临床结果，但较少关注直接通过学习多模态患者时间序列的时间感知表示来解决时间性 EHR 挑战的 EHR 嵌入方法。在本文中，我们引入了一种动态嵌入和分词框架，用于精确表示多模态临床时间序列，该框架结合了编码时间和序列位置的新颖方法与时间交叉注意力机制。我们的嵌入和分词框架在与滑动窗口注意力机制集成的多任务 Transformer 分类器中，在使用来自美国三家医院和两个学术医疗中心的多模态数据预测超过 120,000 例大型住院手术中九种术后并发症发生的示例任务上，优于基线方法。
引用
@article{arxiv.2403.04012,
title = {Temporal Cross-Attention for Dynamic Embedding and Tokenization of Multimodal Electronic Health Records},
author = {Yingbo Ma and Suraj Kolla and Dhruv Kaliraman and Victoria Nolan and Zhenhong Hu and Ziyuan Guan and Yuanfang Ren and Brooke Armfield and Tezcan Ozrazgat-Baslanti and Tyler J. Loftus and Parisa Rashidi and Azra Bihorac and Benjamin Shickel},
journal= {arXiv preprint arXiv:2403.04012},
year = {2024}
}
备注
ICLR 2024 Workshop on Learning From Time Series for Health. 10 pages, 3 figures