中文

XTSFormer:用于临床应用中不规则时间事件预测的跨时间尺度 Transformer

机器学习 2024-12-20 v2 人工智能

摘要

与不安全护理相关的不良临床事件是美国十大死亡原因之一。从电子健康记录(EHRs)中对临床事件进行准确建模和预测在增强患者安全方面起着至关重要的作用。一个例子是对事实护理路径进行建模,这些路径表征了治疗或护理的常见分步计划。然而,临床事件数据带来了一些独特的挑战,包括连续事件之间时间间隔的不规则性、循环、周期性、多尺度事件交互以及与长事件序列相关的高计算成本。现有的神经时间点过程(TPPs)方法未能有效捕捉事件交互的多尺度特性,而这在许多现实世界的临床应用中很常见。为了解决这些问题,我们提出了跨时间尺度 Transformer(XTSFormer),专门为不规则时间事件数据设计。我们的模型包含两个关键组件:一种新颖的基于特征的周期感知时间位置编码(FCPE),能够巧妙捕捉时间的周期性;以及一种分层多尺度时间注意力机制,其中不同的时间尺度由自下而上的聚类方法确定。在多个真实世界 EHR 数据集上的大量实验表明,我们的 XTSFormer 优于多种基线方法。代码可在 https://github.com/spatialdatasciencegroup/XTSFormer 获取。

关键词

引用

@article{arxiv.2402.02258,
  title  = {XTSFormer: Cross-Temporal-Scale Transformer for Irregular-Time Event Prediction in Clinical Applications},
  author = {Tingsong Xiao and Zelin Xu and Wenchong He and Zhengkun Xiao and Yupu Zhang and Zibo Liu and Shigang Chen and My T. Thai and Jiang Bian and Parisa Rashidi and Zhe Jiang},
  journal= {arXiv preprint arXiv:2402.02258},
  year   = {2024}
}

备注

Accepted at AAAI 2025