BolT：用于 fMRI 时间序列分析的融合窗口 Transformer
信号处理
2023-02-21 v3 机器学习
摘要
深度学习模型已在高层级功能 MRI（fMRI）数据分析中实现了性能飞跃。然而，许多先前的方法对于跨不同时间尺度的上下文表示敏感度欠佳。在此，我们提出 BolT，一种血氧水平依赖的 transformer 模型，用于分析多变量 fMRI 时间序列。BolT 利用级联的 transformer 编码器，配备一种新颖的融合窗口注意力机制。编码在时间序列内时间重叠的窗口上执行以捕获局部表示。为了在时间上整合信息，计算每个窗口内基础 token 与邻近窗口边缘 token 之间的跨窗口注意力。为了从局部到全局表示逐步过渡，窗口重叠程度以及随之的边缘 token 数量在级联中逐步增加。最后，采用一种新颖的跨窗口正则化来对齐时间序列上的高层级分类特征。在大规模公开数据集上的综合实验证明了 BolT 相对于最先进方法的优越性能。此外，用于识别对模型决策贡献最显著的关键时间点和脑区的解释性分析与文献中突出的神经科学发现相印证。
关键词
引用
@article{arxiv.2205.11578,
title = {BolT: Fused Window Transformers for fMRI Time Series Analysis},
author = {Hasan Atakan Bedel and Irmak Şıvgın and Onat Dalmaz and Salman Ul Hassan Dar and Tolga Çukur},
journal= {arXiv preprint arXiv:2205.11578},
year = {2023}
}