RealDiffFusionNet：基于神经控制微分方程的多头注意力融合网络用于疾病病程建模
机器学习
2025-01-07 v1 计算机视觉与模式识别
定量方法
摘要
本文提出了一种名为 RealDiffFusionNet 的新型深度学习方法，融合了神经控制微分方程（Neural CDE）——一种对不规则采样数据具有鲁棒性的时间序列模型——以及多头注意力机制，以在每个时间点对齐相关的多模态上下文（如图像数据、时间不变数据等）。还使用了长短期记忆（LSTM）模型作为基准。使用了两个不同的数据集：一个来自开源影像联盟（OSIC）的数据，包含人口统计信息和肺功能的结构化时间序列数据，以及 baseline CT 肺部扫描；另一个来自阿尔茨海默病神经影像计划（ADNI），包含一系列 MRI 扫描以及人口统计信息、体格检查和认知评估数据。对 CDEs、多模态数据、注意力融合和插值策略对模型性能的作用进行了消融研究。在评估基准模型后，使用多模态数据可提高 Neural CDE 的性能，测试 RMSE 更低。此外，多模态 Neural CDE 的性能也优于多模态 LSTM。在基于注意力的体系结构中，串联连接和矩形插值被发现可提高模型性能。 proposed RealDiffFusionNet 的性能（0.2570）优于所有模型。在 ADNI 数据集上，仅使用结构化数据训练的 Neural-CDE 与 LSTM 模型之间的测试 RMSE 相当（LSTM 为 0.471 vs Neural-CDE 为 0.4581）。此外，添加来自患者 MRI 系列的图像特征可提高性能，测试 RMSE 更低（多模态为 0.4372 vs 结构化数据为 0.4581）。RealDiffFusionNet 在利用 CDEs 和多模态数据准确预测疾病病程方面显示出前景。
引用
@article{arxiv.2501.02025,
title = {RealDiffFusionNet: Neural Controlled Differential Equation Informed Multi-Head Attention Fusion Networks for Disease Progression Modeling Using Real-World Data},
author = {Aashish Cheruvu and Nathaniel Rigoni},
journal= {arXiv preprint arXiv:2501.02025},
year = {2025}
}