CardioTabNet：用于 Tabular 医学数据的心脏病预测的新型混合 Transformer 模型
机器学习
2025-03-25 v1
摘要
心血管疾病的早期检测和预测对于减少全球范围内这些疾病引起的严重死亡率和患病率至关重要。多头自注意力机制是自然语言处理 (NLP) 中常用的 Transformer 的核心，用来理解特征空间中的特征相互作用。然而，在这些特征空间中，生物系统中各种特征之间的关系仍不明确，这凸显了针对这些疾病进行早期检测和预测的必要性，以减少全球范围内的严重死亡率和患病率。我们通过 CardioTabNet 来解决此问题，该模型利用 Tab Transformer 的优势，从提取携带强烈理解临床心血管数据及其特征排序信息的特征空间中提取信息。因此，下游经典模型的性能显著提升。本研究使用公开数据集进行心脏病预测，包含 1190 条记录和 11 个特征。总计 11 个特征分为数值特征（年龄、静息血压、胆固醇、最大心率、旧峰、体重和空腹血糖）和分类特征（静息心电、运动诱发心绞绞、ST 斜率）。采用 Tab Transformer 提取重要特征，并使用随机森林 (RF) 特征排序算法进行排序。使用所选特征预测心脏病的 10 个机器学习模型。提取高质量特征后，顶级下游模型（经超参数调优的 ExtraTree 分类器）实现平均准确率为 94.1%，Area Under Curve (AUC) 为 95.0%。此外，还进行了 nomogram 分析，以评估模型在心血管风险评估中的效果。对比了当前最先进模型，评估了我们基于 Transformer 的框架。
引用
@article{arxiv.2503.17664,
title = {CardioTabNet: A Novel Hybrid Transformer Model for Heart Disease Prediction using Tabular Medical Data},
author = {Md. Shaheenur Islam Sumon and Md. Sakib Bin Islam and Md. Sohanur Rahman and Md. Sakib Abrar Hossain and Amith Khandakar and Anwarul Hasan and M Murugappan and Muhammad E. H. Chowdhury},
journal= {arXiv preprint arXiv:2503.17664},
year = {2025}
}
备注
This paper is currently under review in the Health Information Science and Systems journal