神经语言模型并非生来同等拟合脑数据，但训练有所帮助
人工智能
2022-07-08 v1 计算与语言
摘要
神经语言模型（NLMs）在过去几年取得了巨大进展，在各种语言任务上实现了令人印象深刻的性能。借此，神经科学的研究已开始使用NLMs来研究语言处理过程中人脑的神经活动。然而，关于哪些因素决定了一个神经语言模型捕捉脑活动（又称其“脑分数”）的能力，许多问题仍待解答。在此，我们朝此方向迈出第一步，考察了测试损失、训练语料库和模型架构（比较GloVe、LSTM、GPT-2和BERT）对聆听有声书的参与者功能磁共振成像时间过程预测的影响。我们发现：(1) 每个模型的未训练版本已通过捕捉相同词间脑响应的相似性解释了脑中显著数量的信号，其中未训练LSTM优于基于transformer的模型，受上下文影响较小；(2) 训练NLP模型可在相同脑区提升脑分数，与模型架构无关；(3) 困惑度（测试损失）并非脑分数的良好预测因子；(4) 训练数据对结果有强烈影响，且值得注意的是，现成模型可能缺乏检测脑激活的统计功效。总体而言，我们概述了模型训练选择的影响，并为未来旨在用神经语言模型解释人类语言系统的研究提出了良好实践。
引用
@article{arxiv.2207.03380,
title = {Neural Language Models are not Born Equal to Fit Brain Data, but Training Helps},
author = {Alexandre Pasquiou and Yair Lakretz and John Hale and Bertrand Thirion and Christophe Pallier},
journal= {arXiv preprint arXiv:2207.03380},
year = {2022}
}