一个 SPACE 统治一切：联合缓解 LLM 中的事实性与忠实性幻觉

LLM 在自然语言处理中展现了前所未有的能力，但其实际部署仍受到持续存在的事实性与忠实性幻觉的阻碍。现有方法独立处理这些幻觉类型，却无意中导致了性能权衡，因为针对一种类型的干预往往会加剧另一种类型。通过对 LLM 中激活空间动态的实证与理论分析，我们揭示了这些幻觉类别在神经表征中共享重叠的子空间，从而为联合缓解提供了契机。为利用这一洞见，我们提出 SPACE，一个通过编辑共享激活子空间来联合增强事实性与忠实性的统一框架。SPACE 通过双任务特征建模为共享子空间的存在建立几何基础，随后通过结合谱聚类与注意力头显著性评分的混合探针策略来识别并编辑这些子空间。在多个基准数据集上的实验结果证明了我们方法的优越性。