三思而后行：大语言模型不确定性度量的探索性研究
软件工程
2025-01-07 v4 人工智能
计算与语言
摘要
大语言模型（LLMs）近期的性能飞跃为众多工业应用与领域带来了新机遇。然而，LLMs 所产生的错误生成，如错误预测、虚假信息与幻觉，也引发了对其可信度的严重担忧，尤其在安全性、安全性与可靠性敏感的场景中，可能阻碍其实际部署。尽管不确定性估计已展现出解释通用机器学习（ML）模型预测风险的潜力，但人们对于它是否以及在多大程度上有助于探索 LLM 的能力并抑制其不良行为的认识仍十分有限。为弥补这一差距，本文从不确定性视角出发，对 LLMs 的风险评估发起了一项探索性研究。具体而言，我们在四个知名自然语言处理（NLP）任务上，对十二种不确定性估计方法与四个 LLMs 进行实验，以考察不确定性估计技术在刻画 LLMs 预测风险方面的有效程度。我们的发现验证了不确定性估计在揭示 LLMs 不确定/非事实预测方面的有效性。除通用 NLP 任务外，我们还在两个数据集上广泛开展了四个 LLMs 用于代码生成的实验。我们发现不确定性估计有潜力揭示 LLMs 生成的含缺陷程序。本研究得出的见解为未来可靠 LLMs 的设计与开发提供了启示，并促进进一步提升 LLMs 可信度的相关研究。
引用
@article{arxiv.2307.10236,
title = {Look Before You Leap: An Exploratory Study of Uncertainty Measurement for Large Language Models},
author = {Yuheng Huang and Jiayang Song and Zhijie Wang and Shengming Zhao and Huaming Chen and Felix Juefei-Xu and Lei Ma},
journal= {arXiv preprint arXiv:2307.10236},
year = {2025}
}
备注
Update website, code, and experiments on eight new LLMs. To appear in the IEEE Transactions on Software Engineering (2025)