黑盒遇见黑盒：神经语言模型与大脑的代表性相似性与稳定性分析
人工智能
2019-06-06 v2 计算与语言
神经元与认知
摘要
本文中，我们定义并应用代表稳定性分析（ReStA），一种直观的分析神经语言模型的方法。ReStA是认知神经科学中流行的代表相似性分析（RSA）的一个变体。RSA可用于比较模型、模型组件和人脑中的表征，而ReStA在系统改变单一模型参数的同时比较同一模型的实例。利用ReStA，我们研究了四个近期成功的神经语言模型，并评估其内部表征对先验上下文量的敏感程度。利用RSA，我们系统研究了这些模型第一层与第二层（或更高层）中的表征空间彼此之间以及与人类大脑激活模式的相似程度。我们的结果揭示了语言模型之间令人惊讶的强烈差异，并深入揭示了在这些模型中进行跨多句信息整合的深度语言处理发生于何处。在模型与大脑上结合ReStA和RSA，使我们能够开始解决一个关键问题：我们可望在fMRI脑成像数据中观察到何种语言过程。特别地，我们的结果表明Wehbe等人（2014）的故事阅读数据含有浅层语言处理的信号，但无任何关于更有趣的深度语言处理的证据。
引用
@article{arxiv.1906.01539,
title = {Blackbox meets blackbox: Representational Similarity and Stability Analysis of Neural Language Models and Brains},
author = {Samira Abnar and Lisa Beinborn and Rochelle Choenni and Willem Zuidema},
journal= {arXiv preprint arXiv:1906.01539},
year = {2019}
}