我们如何到达那里？评估 Transformer 神经网络作为英语过去时屈折变化的认知模型

关于神经网络能否像人类一样掌握语言中的准规则性一直存在争论。在典型的准规则性任务，即英语过去时屈折变化中，神经网络模型长期以来被批评仅学会了泛化最频繁的模式，而没有学会规则模式，因此无法学习规则和不规则的抽象类别，并且与人类表现不同。在这项工作中，我们训练了一组具有不同设置的 Transformer 模型，以检验它们在此任务上的行为。这些模型在未见过的规则动词上取得了高准确率，在未见过的不规则动词上也取得了一定的准确率。模型在规则动词上的表现受类型频率和比率的影响很大，但不受词例频率和比率的影响，而在不规则动词上则相反。模型在规则动词和不规则动词上的不同行为表明，模型在动词的规则性上具有一定程度的符号学习。此外，模型与人类在无意义动词上的行为弱相关。尽管 Transformer 模型在动词规则性的抽象类别上表现出一定程度的学习，但其表现与人类数据并不十分吻合，表明它可能不是一个好的认知模型。