关键性误认：LLM 是否可为社会造福？
计算与语言
2026-03-09 v2
摘要
LLM 会误认，但某些误认若谨慎控制可具有社会便利性。我们提出关键性误认（灵感来源于文学和社会理论中的批判性叙事），即利用 LLM 误认“填补”因社会和政治不平等导致档案遗漏的空白，重建历史上“隐形人物”的差异且有据可依的叙事。我们通过开放式叙事遮盖任务来模拟这些空白：要求 LLM 生成来自来自未发表文本小语料库中角色中心时间线中被遮盖的事件。我们评估了经过审计（针对数据污染）的完全开放模型（OLMo-2 系列）和未审计的开放权重基线，在各种旨在引导受控且有用误认的提示下进行测试。我们的发现验证了 LLM 在基础叙事理解方面的能力，能够执行关键性误认，表明受控且明确规定的误认可支持 LLM 应用于知识生产，而不会使推测坍塌为缺乏历史准确性和忠实度。
引用
@article{arxiv.2511.07722,
title = {Critical Confabulation: Can LLMs Hallucinate for Social Good?},
author = {Peiqi Sui and Eamon Duede and Hoyt Long and Richard Jean So},
journal= {arXiv preprint arXiv:2511.07722},
year = {2026}
}
备注
ICLR2026 Camera Ready. 27 pages, 5 figures, 11 tables