用于心脏异常检测的生成式预训练Transformer
信号处理
2021-10-11 v1 机器学习
摘要
ECG心跳分类在心律失常诊断中起着至关重要的作用。Physionet/CinC 2021挑战赛的目标是基于12、6、4、3或2导联ECG记录准确分类临床诊断，以辅助医生诊断不同的心脏疾病。近年来，Transformer在自然语言处理领域取得了巨大成功。我们的团队CinCSEM提出将文本与周期时间序列信号进行类比，将重复周期视为词，将整个信号视为此类词的序列。通过这种方式，Transformer的注意力机制可应用于周期时间序列信号。在我们的实现中，我们遵循Transformer Encoder架构，该架构组合了若干编码器层，其后分别接带线性或sigmoid激活的稠密层用于生成式预训练或分类。此处展示的用例是对挑战赛提供的ECG记录进行心跳异常的多标签分类。我们在不超出挑战赛硬件限制的情况下取得的最佳成绩，在12导联、6导联、4导联、3导联和2导联测试集上分别达到了0.12、0.07、0.10、0.10和0.07的分数。遗憾的是，由于缺少预印本，我们的团队未能获得排名。
引用
@article{arxiv.2110.04071,
title = {Generative Pre-Trained Transformer for Cardiac Abnormality Detection},
author = {Pierre Louis Gaudilliere and Halla Sigurthorsdottir and Clémentine Aguet and Jérôme Van Zaen and Mathieu Lemay and Ricard Delgado-Gonzalo},
journal= {arXiv preprint arXiv:2110.04071},
year = {2021}
}
备注
4 pages, 2 figures, accepted for publication in CinC 2021