GENUINE：面向大语言模型的图增强多层不确定性估计
计算与语言
2025-09-10 v1 人工智能
机器学习
摘要
不确定性估计对于增强大语言模型（LLM）的可靠性至关重要，尤其是在高风险应用中。现有方法常常忽视语义依赖，依赖基于token级别概率的度量，无法捕捉生成文本中结构关系。我们提出GENUINE：Graph ENhanced mUlti-level uncertaINty Estimation for Large Language Models，一种结构感知框架，利用依存关系解析树和层次化图池化来细化不确定性量化。通过引入监督学习，GENUINE有效地建模语义和结构关系，提高置信度评估。广泛的实验表明，GENUINE在NLP任务中实现的AUROC提升最高可达29%，校准误差降低超过15%，证明了基于图的不确定性建模的有效性。代码已公开于https://github.com/ODYSSEYWT/GUQ。
引用
@article{arxiv.2509.07925,
title = {GENUINE: Graph Enhanced Multi-level Uncertainty Estimation for Large Language Models},
author = {Tuo Wang and Adithya Kulkarni and Tyler Cody and Peter A. Beling and Yujun Yan and Dawei Zhou},
journal= {arXiv preprint arXiv:2509.07925},
year = {2025}
}
备注
Accepted by EMNLP 2025