面向重症监护时间序列的自监督基础模型
机器学习
2025-09-25 v1 人工智能
摘要
领域特定的医疗基础模型近年来发展迅速，但重症监护时间序列的基础模型仍相对未被充分探索，由于数据集的规模和可用性有限。在本工作中，我们引入了一个基于双轴Transformer（Bi-Axial Transformer, BAT）的早期预训练重症监护时间序列基础模型，在汇总的电子健康记录数据集上进行训练。我们通过在与训练来源不同的数据集上进行微调以进行死亡率预测，展示了有效的迁移学习，其性能优于监督基线，特别是在小数据集（<5,000）上。这些贡献突显了重症监护时间序列自监督基础模型在资源有限环境中支持通用且鲁棒的临床应用的潜力。
引用
@article{arxiv.2509.19885,
title = {Towards Self-Supervised Foundation Models for Critical Care Time Series},
author = {Katja Naasunnguaq Jagd and Rachael DeVries and Ole Winther},
journal= {arXiv preprint arXiv:2509.19885},
year = {2025}
}
备注
Accepted to NeurIPS 2025 workshop Learning from Time Series for Health (TS4H)