基于扩散生成合成图的 Transformer 模型预训练用于阿尔茨海尔病预测
机器学习
2025-11-27 v1 机器学习
摘要
及早且准确地检测阿尔茨海尔病(AD)对于及时干预和改善结果至关重要。然而,开发AD诊断可靠机器学习模型(ML)具有挑战,主要由于标注数据有限、跨中心异质性以及类别不平衡。我们提出一种基于Transformer的诊断框架,结合扩散生成合成数据、图表示学习和迁移学习。在真实世界的NACC数据集上训练一个类别条件去噪扩散概率模型(DDPM),以生成大量合成队列,这些队列在保持多模态临床和神经影像特征分布的同时平衡诊断类别。首先在合成数据上为每个模态训练图 Transformer 编码器,以学习鲁棒且具有类别判别性的表示,然后冻结这些编码器,在来自NACC的原始数据嵌入上训练神经分类器。我们量化了真实队列与合成队列之间的分布对齐情况,包括最大均值差异(MMD)、Fréchet距离和能量距离等指标,并辅以校准和固定特异性灵敏度分析。经验上,我们的方法在NACC上以主观交叉验证 outperform标准基线,包括早期和晚期融合深度神经网络以及基于图的多模态模型MaGNet,获得更高的AUC、准确率、灵敏度和特异度。这些结果表明,扩散生成的合成数据预训练结合图 Transformer 可以提高在小样本、不平衡临床预测场景中的泛化能力。
关键词
引用
@article{arxiv.2511.20704,
title = {Pretraining Transformer-Based Models on Diffusion-Generated Synthetic Graphs for Alzheimer's Disease Prediction},
author = {Abolfazl Moslemi and Hossein Peyvandi},
journal= {arXiv preprint arXiv:2511.20704},
year = {2025}
}
备注
14 pages. Preprint