基于遮蔽潜在注意力的心电图时间序列基础模型
机器学习
2026-04-21 v2 人工智能
信号处理
表示论
摘要
心电图(ECG)是最广泛可得的临床信号之一，在心血管诊断中占据核心地位。虽然近期基础模型(FMs)在学习可迁移ECG表征方面显示出前景，但大多数现有预训练方法将导联视为独立通道，未充分利用其强大的结构冗余性。我们引入潜在注意力遮蔽自编码器(LAMAE)基础模型，直接利用这种结构，通过自监督预训练学习跨导联连接机制。该方法通过潜在注意力建模导联间的高阶相互作用，实现排列不变性聚合并对导联特定表征进行自适应加权。我们在Mimic-IV-ECG数据库上提供实证证据，表明利用跨导联连接构成有效的结构监督，可提升表征质量与可迁移性。该方法在预测ICD-10编码方面表现优异，超越独立导联遮蔽建模与对齐基线方法。
引用
@article{arxiv.2603.26475,
title = {Foundation Model for Cardiac Time Series via Masked Latent Attention},
author = {Moritz Vandenhirtz and Samuel Ruipérez-Campillo and Simon Böhi and Sonia Laguna and Irene Cannistraci and Andrea Agostini and Ece Ozkan and Thomas M. Sutter and Julia E. Vogt},
journal= {arXiv preprint arXiv:2603.26475},
year = {2026}
}
备注
First two authors are co-first. Last two authors are co-senior