探究语法数范畴的使用：基于用法的探测方法

探测研究的一个核心目标是揭示预训练模型如何在其表示中编码某一语言属性。然而，这种编码可能是虚假的——即模型在做出预测时可能并不依赖它。本文中，我们试图寻找模型实际使用的编码，提出了一种基于用法的探测设定。我们首先选择一个不使用该语言属性便无法完成的行为任务。然后，我们尝试通过对模型表示进行干预来移除该属性。我们认为，若某一编码被模型所使用，则其移除应损害所选行为任务上的表现。作为一个案例研究，我们聚焦于 BERT 如何编码语法数，以及它如何利用该编码来解决数的一致任务。实验上，我们发现 BERT 依赖语法数的线性编码来产生正确的行为输出。我们还发现 BERT 对名词和动词使用分离的语法数编码。最后，我们确定了在哪些层中语法数的信息从名词传递到其中心动词。