GPT对指代关系的认知
计算与语言
2022-05-17 v1 机器学习
摘要
共指消解——对理解话语及整体语言至关重要——尚未广泛受益于大语言模型（LLM）。此外，共指消解系统严重依赖监督标签，其标注成本高昂且困难，因此非常适合提示工程。本文引入一种基于问答的提示工程方法，并辨明了生成式预训练LLM在共指消解任务上的能力与局限。我们的实验表明，GPT-2和GPT-Neo能够返回有效答案，但其识别共指提及的能力有限且对提示敏感，导致结果不一致。
引用
@article{arxiv.2205.07407,
title = {What GPT Knows About Who is Who},
author = {Xiaohan Yang and Eduardo Peynetti and Vasco Meerman and Chris Tanner},
journal= {arXiv preprint arXiv:2205.07407},
year = {2022}
}
备注
Accepted by ACL 2022 Workshop on Insights from Negative Results in NLP