中文

控制的奇特案例

计算与语言 2022-11-09 v2

摘要

习得英语的儿童即使在接近成人水平的能力之后,仍会在主语控制句上犯系统性错误(C. Chomsky, 1969),这可能是由于基于语义角色的启发式所致(Maratsos, 1974)。鉴于大型生成式语言模型已具备高超流畅度,我们探究模型输出是否与这些启发式一致,以及不同模型之间的一致程度如何。我们发现模型可按行为分为三组,组间存在广泛差异。最大组中模型的输出与位置启发式一致,该启发式在主语控制上成功,但在宾语控制上失败。这一结果令人惊讶,因为宾语控制在用于训练此类模型的文本数据中出现的频率高出几个数量级。我们考察了模型对以施事-受事信息进行提示的敏感程度,发现提高施事与受事关系的显著性会导致大多数模型输出的显著变化。基于该观察,我们利用现有的语义原角色标注数据集(White 等,2020)来探索控制与用通常关联于施事和受事的属性标注事件参与者之间的联系。

关键词

引用

@article{arxiv.2205.12113,
  title  = {The Curious Case of Control},
  author = {Elias Stengel-Eskin and Benjamin Van Durme},
  journal= {arXiv preprint arXiv:2205.12113},
  year   = {2022}
}

备注

EMNLP 2022