MOTOR：一种面向结构化医疗记录的时间至事件基础模型
机器学习
2023-12-06 v4
摘要
我们提出一个名为MOTOR（Many Outcome Time Oriented Representations，多结果时间导向表示）的自监督时间至事件（TTE）基础模型，其在电子健康记录（EHR）和健康保险理赔的时间戳事件序列上进行了预训练。TTE模型用于估计直至特定事件发生时间的概率分布，这是医疗环境中的重要任务。TTE模型相比使用固定时间范围的分类具有许多优势，包括自然处理删失观测，但用有限标注数据训练具有挑战性。MOTOR通过在多达55M患者记录（9B临床事件）上预训练来解决此挑战。我们在19个任务上评估MOTOR的迁移学习性能，跨3个患者数据库（一个私有EHR系统、MIMIC-IV和Merative理赔数据）。基于MOTOR调整的任务特定模型将时间依赖C统计量较最先进水平提高4.6%，将标注效率提高至多95%，且对时间分布偏移更鲁棒。我们进一步通过在MIMIC-IV数据集上对六个预测任务调整我们的MOTOR基础模型来评估跨站点可移植性，其优于所有基线。MOTOR是首个用于医疗TTE预测的基础模型，我们发布了一个143M参数的预训练模型供研究使用于[删节URL]。
引用
@article{arxiv.2301.03150,
title = {MOTOR: A Time-To-Event Foundation Model For Structured Medical Records},
author = {Ethan Steinberg and Jason Fries and Yizhe Xu and Nigam Shah},
journal= {arXiv preprint arXiv:2301.03150},
year = {2023}
}