变形 transformer 超越了人类尚未学习的范围：西班牙语 L 形形态学的案例

不规则形态模式的认知现实已被广泛讨论数十年：说话者是否将其推广到新形式，还是仅是词汇残留？在分布式输入下训练的神经网络提供了一种可学习性检验：如果它恢复了该模式，则表明该模式可仅从输入统计信息中学习。我们将此检验应用于西班牙语 L 形形态学，其中第一人称单数指示语形态出现在所有现在体验单元中，尽管缺乏明显的音韵或语义动机。我们进一步询问不规则动词在输入中出现的频率是否影响泛化，在三个频率条件下（10%、50%、90% 不规则）对 transformer 进行评估，并将其与人类行为数据进行比较。对于从伪词输入进行全形式生产，所有模型都表现不佳，但三个条件都比人类更常出现正确的形态（43%--49% vs. 33%）。响应偏好显示出明显的差异：人类始终倾向于选择规则变位，而模型随着训练中不规则形式比例的增长，更倾向于选择不规则形式。自然条件和平衡条件下的模型也对伪词与真实西班牙语不规则动词之间的音韵相似性敏感，这一效应在人类身上不存在。因此，L 形形态可仅从分布式输入中学习，但模型对其的泛化方式与人类有所不同。