面向大语言模型推理事实性的可微共形训练
机器学习
2026-04-23 v1
摘要
大语言模型 (LLMs) 频繁产生幻觉，限制了其在关键应用中的可靠性。共形预测 (CP) 通过在保留数据上校准错误率来提供统计上有效的置信度保证，从而解决此问题。近期工作将CP扩展到LLM事实性，以过滤掉有风险的声明，确保幻觉率保持在用户指定水平（例如10%）以下。先前的方法独立处理声明，而连贯事实性通过将输出表示为依赖图并联合验证声明及其逻辑祖先，将其扩展到多步推理。一个关键限制是连贯事实性不可微，需要手工设计的评分器，在高可靠性水平下会移除近60%的真实声明。我们引入了可微连贯事实性 (DCF)，这是一种完全可微的松弛方法，能够学习改进的评分器，同时可证明地恢复原始算法的保证。在两个基准推理数据集上的实验表明，DCF在保持可靠性保证的同时，声明保留率提高了高达141%，这代表了向可靠的共形LLM系统迈出的重要一步。
引用
@article{arxiv.2604.20098,
title = {Differentiable Conformal Training for LLM Reasoning Factuality},
author = {Nathan Hittesdorf and Marco Salzetta and Lu Cheng},
journal= {arXiv preprint arXiv:2604.20098},
year = {2026}
}
备注
Submitted ICML