GPT-2 中的花园路径句遍历
计算与语言
2023-05-09 v2
摘要
近年来，诸如 GPT-x 系列模型的大规模 transformer 解码器日益流行。考察这些模型行为的研究往往只关注语言建模头的输出，而避免对 transformer 解码器内部状态的分析。在本研究中，我们提出一套分析 GPT-2 隐藏状态的方法，并以该模型对花园路径句的导航作为案例研究。为此，我们编制了当前可用的规模最大的花园路径句数据集。我们表明，与通过分析语言建模头计算的下一词元概率的既有惊奇度（surprisal）方法相比，曼哈顿距离和余弦相似度能提供更可靠的洞察。使用这些方法，我们发现否定词元对于仅关于动词宾语存在歧义的无歧义句的表征影响极小，但对于歧义源于动词语态的无歧义句的表征有更实质的影响。此外，我们发现分析解码器模型的隐藏状态能揭示可能以花园路径效应告终但实际未发生的歧义时段，而惊奇度分析通常遗漏这一细节。
引用
@article{arxiv.2205.12302,
title = {Garden-Path Traversal in GPT-2},
author = {William Jurayj and William Rudman and Carsten Eickhoff},
journal= {arXiv preprint arXiv:2205.12302},
year = {2023}
}
备注
9 pages, 6 figures, Accepted to EMNLP BlackBox NLP 2022