反事实推理：测试语言模型对假设情景的理解
计算与语言
2023-05-29 v1
摘要
当前预训练语言模型在下游任务上取得了显著改进，但很难区分统计相关性的影响与建立在真实世界理解之上的更系统的逻辑推理的影响。我们通过利用反事实条件句来梳理这些因素，反事实条件句迫使语言模型基于假设命题预测不寻常的后果。我们引入了一套来自心理语言学实验的测试，以及更大规模的受控数据集，以探查五个预训练语言模型的反事实预测。我们发现，模型在反事实情景中能够一致地覆盖真实世界知识，并且这种效应在基线世界知识更强的情况下更为稳健——然而，我们也发现对于大多数模型，该效应似乎主要由简单的词汇线索驱动。当我们缓解世界知识和词汇线索的影响以测试对反事实语言细微差别的知识时，我们发现只有 GPT-3 表现出对这些细微差别的敏感性，尽管这种敏感性也受到词汇联想因素的非平凡影响。
引用
@article{arxiv.2305.16572,
title = {Counterfactual reasoning: Testing language models' understanding of hypothetical scenarios},
author = {Jiaxuan Li and Lang Yu and Allyson Ettinger},
journal= {arXiv preprint arXiv:2305.16572},
year = {2023}
}
备注
Accepted to ACL 2023. arXiv admin note: substantial text overlap with arXiv:2212.03278