中文

Brain-Semantoks:基于自蒸馈基础模型学习脑动力学语义标记

机器学习 2026-03-03 v2 计算机视觉与模式识别 神经元与认知

摘要

为功能磁性共振成像(fMRI)时间序列开发基础模型具有重要前景,可用于预测与疾病和认知相关的表型。然而,当前模型通常使用在小脑区区域上的掩码-重构目标进行训练,这些关注低级信息的模型导致表征对噪声和时间波动敏感,需 extensive fine-tuning 才能适用于下游任务。我们提出 Brain-Semantoks,一个专为学习脑动力学抽象表征而设计的自监督框架,其架构基于两个核心创新:一个语义标记器,将噪声区域信号聚合为代表功能网络的稳健标记,以及一个自蒸馈目标,用于在时间上强制表征稳定性。我们展示,该目标通过一种新颖的训练课程来稳定,确保模型从低信噪比时间序列中稳健学习有意义的特征。我们证明,所学表征即使仅使用线性探针,也能在各种下游任务上实现强性能。此外,我们提供了全面的扩展分析,表明更多无标签数据可靠地导致无域适应的样本外性能提升。

关键词

引用

@article{arxiv.2512.11582,
  title  = {Brain-Semantoks: Learning Semantic Tokens of Brain Dynamics with a Self-Distilled Foundation Model},
  author = {Sam Gijsen and Marc-Andre Schulz and Kerstin Ritter},
  journal= {arXiv preprint arXiv:2512.11582},
  year   = {2026}
}

备注

Accepted at ICLR 2026. Code and pretrained models available at https://github.com/SamGijsen/Brain-Semantoks