面向临床时间序列的序列多维自监督学习
机器学习
2023-07-21 v1
摘要
临床时间序列数据的自监督学习（SSL）近期受到文献的显著关注，因为这些数据高度丰富并提供有关患者生理状态的重要信息。然而，大多数现有的临床时间序列 SSL 方法存在局限，它们为单模态时间序列设计，例如结构化特征序列（如实验室值与生命体征）或单个高维生理信号（如心电图）。这些现有方法难以直接扩展到对每个时间步都记录结构化特征与高维数据的多模态时间序列建模。在本工作中，我们填补这一空白并提出了一种新的 SSL 方法——序列多维 SSL（Sequential Multi-Dimensional SSL）——其中 SSL 损失同时应用于整个序列层面和序列中单个高维数据点层面，以更好地在两种尺度上捕获信息。我们的策略对每一层使用的具体损失函数形式无关——它可以是对比式的（如 SimCLR），也可以是非对比式的（如 VICReg）。我们在两个真实世界临床数据集上评估了我们的方法，其时间序列包含（1）高频心电图与（2）来自实验室值和生命体征的结构化数据的序列。实验结果表明，使用我们的方法预训练然后在下游任务上微调，在两个数据集上均优于基线，并且在多种设定下可带来跨不同自监督损失函数的改进。
引用
@article{arxiv.2307.10923,
title = {Sequential Multi-Dimensional Self-Supervised Learning for Clinical Time Series},
author = {Aniruddh Raghu and Payal Chandak and Ridwan Alam and John Guttag and Collin M. Stultz},
journal= {arXiv preprint arXiv:2307.10923},
year = {2023}
}
备注
ICML 2023