句法扰动揭示预训练语言模型中层次短语结构的表征关联

尽管来自预训练语言模型的基于向量的语言表征为许多 NLP 任务树立了新标准，但其内部机制尚未被完全阐明。特别是，尚不完全清楚这些表征捕获了句子级句法的哪些方面，也不清楚它们（如果有的话）是如何沿网络堆叠层构建的。在本文中，我们旨在通过一类通用的干预式、基于输入扰动的分析来探讨此类问题，以研究预训练语言模型的表征。我们从计算与认知神经科学引入表征不变性的概念，进行了一系列探测实验，旨在测试这些表征对句子中若干种结构的敏感性。每个探测涉及在句子中交换词语，并将扰动句子的表征与原始句子进行比较。我们实验了三种不同的扰动：（1）不同宽度的 n-gram 随机置换，以测试表征对词位置的敏感尺度；（2）交换两个构成或不构成句法短语的跨度，以测试对全局短语结构的敏感性；（3）交换两个相邻词语（会或不会拆散句法短语），以测试对局部短语结构的敏感性。这些探测的结果共同表明，Transformer 沿其各层构建对句子更大部分的敏感性，且层次短语结构在此过程中发挥作用。更广泛地说，我们的结果还表明，结构化输入扰动拓宽了可对常不透明的深度学习系统所进行分析的范围，并可作为现有工具（如监督线性探针）解释复杂黑盒模型的补充。