用于迁移学习至脑解码任务的fMRI数据配对序列自监督预训练
机器学习
2023-05-17 v1 神经元与认知
摘要
在这项工作中，我们引入了用于功能磁共振成像(fMRI)数据上transformer的自监督预训练框架。首先，我们同时在两个自监督任务上预训练我们的架构，以教导模型在音乐聆听期间人类听觉皮层时空动力学的一般理解。我们的预训练结果首次表明多任务训练在fMRI数据上的协同效应。其次，我们在有监督的fMRI分类任务上微调预训练模型并训练额外的新模型。我们观察到微调模型在留出测试运行上准确率显著提升，这证明了我们的预训练任务能够促进迁移学习。该工作为日益增长的关于用于fMRI数据预训练和迁移学习的transformer架构的文献做出了贡献，并作为我们的预训练任务及fMRI数据多任务预训练的概念验证。
引用
@article{arxiv.2305.09057,
title = {Self-Supervised Pretraining on Paired Sequences of fMRI Data for Transfer Learning to Brain Decoding Tasks},
author = {Sean Paulsen and Michael Casey},
journal= {arXiv preprint arXiv:2305.09057},
year = {2023}
}
备注
Preprint - Accepted to International Conference on Pattern Recognition, Machine Learning and Consciousness 2023