GPT2MEG：量化脑磁图以实现自回归生成
机器学习
2026-01-29 v2 信号处理
摘要
基于自监督目标训练的基础模型越来越多地应用于脑记录数据，但真实多通道神经时间序列的自回归生成仍相对未被充分探索，特别是对于脑磁图（MEG）。我们研究了（i）改进的多通道WaveNet变体和（ii）一种GPT-2风格的Transformer，通过在未标记的MEG上进行下一步预测进行自回归训练。对于Transformer，我们提出了一种简单的量化/分词和嵌入方案（通道、受试者和任务条件嵌入），该方案将语言模型架构重新用于连续、高采样率的多通道时间序列，并能够实现任务诱发活动的条件模拟。在预测、长时程生成和下游解码任务中，GPT2MEG比WaveNet变体和线性自回归基线更忠实地再现了真实MEG的时间、频谱和任务诱发统计特性，并通过受试者嵌入扩展到多个受试者。代码可在 https://github.com/ricsinaruto/MEG-transfer-decoding 获取。
引用
@article{arxiv.2404.09256,
title = {GPT2MEG: Quantizing MEG for Autoregressive Generation},
author = {Richard Csaky and Mats W. J. van Es and Oiwi Parker Jones and Mark Woolrich},
journal= {arXiv preprint arXiv:2404.09256},
year = {2026}
}
备注
Code available on GitHub (https://github.com/ricsinaruto/MEG-transfer-decoding). Part of PhD thesis (https://ricsinaruto.github.io/docs/thesis_final_appendix.pdf)