中文

TransformerLSR:基于并发潜在结构的长纵向数据、生存和 recurrent 事件的注意力联合模型

机器学习 2024-04-08 v1 机器学习 应用统计 统计方法学

摘要

在生物医学研究、流行病学和社会科学等应用中,往往存在 recurrent 事件与纵向测量以及终端事件(如死亡)的共现情况。因此,在考虑其相互依赖关系的同时联合建模纵向测量、recurrent 事件和生存数据至关重要。虽然统计文献中已存在处理这三类组成部分的联合模型,但许多方法受到严重的非参数假设和可扩展性问题的限制。最近, 将深度学习技术引入联合建模方面取得了有前景的成果。然而,当前方法仅处理纵向测量在规则间隔观察时间和生存事件的联合建模,忽略了 recurrent 事件。在本文中,我们发展了 TransformerLSR,一个灵活的基于 Transformer 的深度建模和推断框架,用于同时联合建模这三类组成部分。TransformerLSR 将深时序点过程整合到联合建模框架中,将 recurrent 事件和终端事件视为两种受过去纵向测量和 recurrent 事件时间制约的竞争性事件。此外,TransformerLSR 引入了一种新颖的轨迹表示和模型架构,以可能整合已知的并发纵向变量之间的潜在结构的先验知识。我们通过仿真研究和分析真实医学数据集(关于肾脏移植后患者)展示了 TransformerLSR 的有效性和必要性。

关键词

引用

@article{arxiv.2404.03804,
  title  = {TransformerLSR: Attentive Joint Model of Longitudinal Data, Survival, and Recurrent Events with Concurrent Latent Structure},
  author = {Zhiyue Zhang and Yao Zhao and Yanxun Xu},
  journal= {arXiv preprint arXiv:2404.03804},
  year   = {2024}
}