关联人工与人工神经网络的语言表征
计算与语言
2019-10-04 v1 神经元与认知
摘要
句子理解行为中哪些信息在人脑中被稳健表征？我们通过在一个脑解码任务上比较句子编码模型来研究此问题，该任务中必须由句子引发的 fMRI 信号预测实验参与者所看到的句子。我们取预训练的 BERT 架构作为基线句子编码模型，并在多种自然语言理解（NLU）任务上微调它，探究哪些任务能提升脑解码性能。我们发现所测试的句子编码任务均未取得脑解码性能的显著提升。通过进一步的任务消融与表征分析，我们发现产生轻句法表征的任务带来了脑解码性能的显著提升。我们的结果限定了能最佳解释人类语言神经表征的 NLU 模型空间，但也提示了从 fMRI 人类神经影像中解码细粒度句法信息的局限性。
引用
@article{arxiv.1910.01244,
title = {Linking artificial and human neural representations of language},
author = {Jon Gauthier and Roger Levy},
journal= {arXiv preprint arXiv:1910.01244},
year = {2019}
}
备注
EMNLP 2019