VeriTrail：具有可追溯性的封闭域幻觉检测
计算与语言
2026-03-03 v2 人工智能
摘要
即使被指示遵循源材料，语言模型也经常生成无根据的内容——这种现象被称为“封闭域幻觉”。与单生成步骤 (SGS) 过程相比，这种风险在多生成步骤 (MGS) 过程中被放大。然而，由于 MGS 过程的复杂性更高，我们认为在其最终输出中检测幻觉是必要但不充分的：追踪幻觉内容可能在哪里被引入，以及忠实内容是如何通过中间输出从源材料中推导出来的，同样重要。为了满足这一需求，我们提出了 VeriTrail，这是首个旨在为 MGS 和 SGS 过程提供可追溯性的封闭域幻觉检测方法。我们还引入了首批数据集，包含所有中间输出以及各自 MGS 过程最终输出忠实度的人工标注。我们证明了 VeriTrail 在两个数据集上均优于基线方法。
引用
@article{arxiv.2505.21786,
title = {VeriTrail: Closed-Domain Hallucination Detection with Traceability},
author = {Dasha Metropolitansky and Jonathan Larson},
journal= {arXiv preprint arXiv:2505.21786},
year = {2026}
}
备注
ICLR 2026