基于结构约束满足的 LLM 推理神经符号验证门 Eidoku
人工智能
2025-12-25 v1 计算机科学中的逻辑
摘要
大语言模型 (LLM) 常产生被模型自身赋予高置信度的幻觉陈述,这暴露了基于概率的验证的根本局限。这表明幻觉往往并非低置信度现象,而是结构一致性的失效。在本工作中,我们将 LLM 推理的验证重新表述为一个独立于生成置信度的约束满足问题 (Constraint Satisfaction Problem, CSP)。我们不追求统计可信度,而是将验证建模为基于结构违规成本的可行性检查——将候选推理步骤嵌入情境图结构所需的计算成本。我们定义了一个由三个代理组成的总成本函数:(i) 图连通性 (结构)、(ii) 特征空间一致性 (几何)、(iii) 逻辑蕴含 (符号)。关键的是,验证通过轻量级 System-2 门 Eidoku 执行,Eidoku 会拒绝超出情境校准成本阈值的候选方案。该阈值并非通过学习获得,而是源自情境内固有统计数据,避免使用 ad hoc 经验法则。我们展示了该方法成功地拒绝了“光滑谬误”——即置信度极高却结构上不连通的陈述——这类陈述是概率-based 验证器所无法检测的。我们的实验在受控诊断数据集上显示,明确强制结构约束允许对此特定类别的幻觉进行确定性拒绝,为生成式推理提供一种神经符号的 sanity check。
引用
@article{arxiv.2512.20664,
title = {Eidoku: A Neuro-Symbolic Verification Gate for LLM Reasoning via Structural Constraint Satisfaction},
author = {Shinobu Miya},
journal= {arXiv preprint arXiv:2512.20664},
year = {2025}
}