扩散MRI Transformer与扩散空间旋转位置嵌入(D-RoPE)
计算机视觉与模式识别
2026-03-30 v1
摘要
扩散磁共振成像(dMRI)在研究大脑微观结构变化中起着关键作用,因此在临床实践中被广泛使用;然而,从dMRI中学习通用表征的进展一直有限。一个关键挑战是现有的深度学习方法不适合捕捉扩散信号的独特特性。大脑dMRI通常由几个大脑体积组成,每个体积具有不同的衰减特性,取决于扩散敏感梯度的方向和强度。因此,需要联合建模dMRI中的空间、扩散加权和方向依赖性。此外,变化的采集协议(例如不同的方向数量)进一步限制了传统模型。为了填补这些空白,我们引入了一种扩散空间旋转位置嵌入(D-RoPE),插入到我们的dMRI Transformer中,以同时捕捉扩散数据的空间结构和方向特性,从而实现跨多样采集设置和任意扩散方向数量的鲁棒且可迁移的表征。在自监督掩码自编码预训练之后,多个下游任务的测试表明,学习到的表征和预训练模型在这些下游任务中可以与多个基线竞争或提供优越性能(甚至与完全训练的基线相比);来自我们预训练编码器的微调特征在分类轻度认知障碍时实现了6%更高的准确率,在预测认知评分时相关系数提高了0.05。代码可在以下地址获取:github.com/gustavochau/D-RoPE。
引用
@article{arxiv.2603.25977,
title = {Diffusion MRI Transformer with a Diffusion Space Rotary Positional Embedding (D-RoPE)},
author = {Gustavo Chau Loo Kung and Mohammad Abbasi and Camila Blank and Juze Zhang and Alan Q. Wang and Sophie Ostmeier and Akshay Chaudhari and Kilian Pohl and Ehsan Adeli},
journal= {arXiv preprint arXiv:2603.25977},
year = {2026}
}