LLM-CAS：用于实时幻觉纠正的动态神经元扰动
计算与语言
2025-12-23 v1 人工智能
摘要
大型语言模型（LLMs）常常生成缺乏事实或情境依托的幻觉内容，这限制了其在关键应用场景中的可靠性。现有方法如监督式微调和基于人类反馈的强化学习数据密集且计算成本高昂，而静态参数编辑方法则难以处理情境依赖的错误和灾难性遗忘。我们提出了 LLM-CAS 框架，将实时幻觉纠正建模为分层强化学习问题。LLM-CAS 训练一个智能体，学习其在推理过程中根据当前情境动态选择临时神经元扰动的策略。不同于以往依赖启发式或预定义调整的动态方法，本策略驱动机制实现了自适应且细粒度的纠正，而无需永久性参数修改。跨多个语言模型的实验表明，LLM-CAS 在事实准确性方面 consistently 提升，分别在 StoryCloze 上提升 10.98 个百分点，在 TriviaQA 上提升 2.71 个百分点，在 TruthfulQA 的 MC1 分数上提升 2.06 个百分点。这些结果超越了 ITI 和 CAA 等静态编辑方法，以及动态 SADI 框架。总体而言，LLM-CAS 提供了一种高效且情境感知的解决方案，用于提高 LLMs 的可靠性，充满了未来多模态扩展的潜力。
引用
@article{arxiv.2512.18623,
title = {LLM-CAS: Dynamic Neuron Perturbation for Real-Time Hallucination Correction},
author = {Jensen Zhang and Ningyuan Liu and Yijia Fan and Zihao Huang and Qinglin Zeng and Kaitong Cai and Jian Wang and Keze Wang},
journal= {arXiv preprint arXiv:2512.18623},
year = {2025}
}
备注
Accepted at AAAI 2026