CIP:一种即插即用的因果提示框架,用于缓解长上下文噪声下的幻觉
计算与语言
2025-12-15 v1 人工智能
摘要
大语言模型在处理冗长且嘈杂的检索上下文时经常产生幻觉,因为它们依赖虚假相关性而非真实的因果关系。我们提出了 CIP,一种轻量级且即插即用的因果提示框架,从输入阶段缓解幻觉。CIP 构建实体、动作和事件之间的因果关系序列,并将其注入提示中,引导推理朝向因果相关的证据。通过因果干预和反事实推理,CIP 抑制非因果推理路径,提升事实基础和可解释性。在七个主流语言模型(包括 GPT-4o、Gemini 2.0 Flash 和 Llama 3.1)上的实验表明,CIP 一致地提升了推理质量和可靠性,在可归因率上实现了 2.6 点的提升,在因果一致性得分上提升了 0.38,有效信息密度提高了四倍。API 层面的分析进一步表明,CIP 加速了上下文理解,并将端到端响应延迟降低了最多 55.1%。这些结果表明因果推理可能是提升大语言模型可解释性、稳定性和效率的有前景的范式。
引用
@article{arxiv.2512.11282,
title = {CIP: A Plug-and-Play Causal Prompting Framework for Mitigating Hallucinations under Long-Context Noise},
author = {Qingsen Ma and Dianyun Wang and Ran Jing and Yujun Sun and Zhenbo Xu},
journal= {arXiv preprint arXiv:2512.11282},
year = {2025}
}