从义肢记忆到义肢否认：审计大型语言模型是否倾向于大规模暴行否认主义
计算机与社会
2025-05-29 v1 计算与语言
摘要
大型语言模型（LLM）的普及会影响历史叙事的传播与认知。本研究探讨了 LLM 响应对大规模暴行记忆表征的影响，考察生成式 AI 系统是促成了义肢记忆（即历史事件的媒介化体验），还是促成了我们所称的“义肢否认”，即 AI 媒介化下对暴行记忆的抹除或扭曲。我们认为，LLM 作为可以引发义肢记忆的界面，因此充当了记忆传递的体验场所，但也引入了否认主义的风险，尤其是当其输出与有争议的或修正主义的叙事相一致时。为了经验性地评估这些风险，我们对五个 LLM（Claude、GPT、Llama、Mixtral 和 Gemini）在四个历史案例研究中进行了比较审计：乌克兰大饥荒、犹太人大屠杀、柬埔寨种族灭绝以及卢旺达针对图西族的种族灭绝。每个模型均被提示以英语及与各案例相关的另一种语言（乌克兰语、德语、高棉语和法语）回答涉及常见否认主义主张的问题。我们的发现表明，尽管 LLM 对于犹太人大屠杀等广泛记录的事件通常能产生准确的响应，但对于柬埔寨种族灭绝等较少被代表的案例，则观察到显著的不一致性和对否认主义框架的易感性。这些差异突显了训练数据可用性以及 LLM 响应的概率性质对记忆完整性的影响。我们得出结论，尽管 LLM 扩展了义肢记忆的概念，但不受监管的使用会冒强化历史否认主义的风险，引发了关于（数字）记忆保存的伦理关切，并可能挑战与义肢记忆原始价值观相关联的技术优势角色。
引用
@article{arxiv.2505.21753,
title = {From prosthetic memory to prosthetic denial: Auditing whether large language models are prone to mass atrocity denialism},
author = {Roberto Ulloa and Eve M. Zucker and Daniel Bultmann and David J. Simon and Mykola Makhortykh},
journal= {arXiv preprint arXiv:2505.21753},
year = {2025}
}