脑网络 Transformer
机器学习
2022-10-18 v2 计算机视觉与模式识别
神经与进化计算
摘要
人脑通常被建模为感兴趣区域（ROI）及其连接构成的网络，以理解脑功能与精神障碍。近来，基于 Transformer 的模型已被研究用于包括图在内的多种数据类型，并被广泛证明能带来性能提升。在本工作中，我们研究用于脑网络分析的基于 Transformer 的模型。受数据独特属性的驱动，我们将脑网络建模为具有固定大小与顺序节点的图，这使我们能够（1）使用连接轮廓作为节点特征，以提供自然且低成本的位序信息；（2）跨个体以高效注意力权重学习 ROI 之间的成对连接强度，并对下游分析任务具有预测性。此外，我们提出一种基于自监督软聚类与正交投影的正交聚类读出（Orthonormal Clustering Readout）操作。该设计考虑了决定 ROI 群组间相似行为的底层功能模块，从而产生可区分的簇感知节点嵌入与信息丰富的图嵌入。最后，我们在唯一公开可用的大规模脑网络数据集 ABIDE 上重新标准化了评估流程，以实现不同模型间有意义的比较。实验结果表明，我们提出的脑网络 Transformer 在公开 ABIDE 与受限 ABCD 数据集上均有明显改进。实现代码见 https://github.com/Wayfear/BrainNetworkTransformer。
引用
@article{arxiv.2210.06681,
title = {Brain Network Transformer},
author = {Xuan Kan and Wei Dai and Hejie Cui and Zilong Zhang and Ying Guo and Carl Yang},
journal= {arXiv preprint arXiv:2210.06681},
year = {2022}
}
备注
Accepted to NeurIPS 2022. The previous version is accepted for Workshop ICML-IMLH 2022 (Oral, no proceedings)