否定诱导的遗忘现象在大型语言模型中的研究
计算与语言
2025-02-27 v1
摘要
本研究探讨了大型语言模型（LLM）是否存在否定诱导的遗忘（NIF），这是人类在对对象或事件的错误属性否定后，相较于肯定正确属性，导致对该对象或事件记忆减弱的认知现象（Mayo 等人，2014；Zang 等人，2023）。我们采用Zang等人（2023）的实验框架测试了该效应在ChatGPT-3.5、GPT-4o-mini和Llama3-70b-instruct中的表现。我们的结果显示，ChatGPT-3.5表现出NIF，被否定的信息不太可能被记住；GPT-4o-mini显示出微弱的显著NIF效应，而LLaMA-3-70B未表现出NIF。这些发现为某些LLM中否定诱导遗忘的初始证据提供了依据，表明类似的认知偏差可能在这些模型中出现。本工作是理解记忆相关现象在LLM中呈现方式的初步步骤。
引用
@article{arxiv.2502.19211,
title = {Negation-Induced Forgetting in LLMs},
author = {Francesca Capuano and Ellen Boschert and Barbara Kaup},
journal= {arXiv preprint arXiv:2502.19211},
year = {2025}
}
备注
ISCA/ITG Workshop on Diversity in Large Speech and Language Models