量化任意语言模型回答的不确定性并提升其可信度
计算与语言
2023-10-05 v2 人工智能
摘要
我们提出 BSDetector，一种通过为预训练大语言模型（Large Language Model, LLM）生成的任意输出估计数值置信度分数，从而检测其错误与推测性回答的方法。我们的不确定性量化技术适用于仅能通过黑盒 API 访问且训练数据未知的任意 LLM。通过付出少量额外计算，任意 LLM API 的用户现在可获得与平常相同的响应，以及警示何时不应信任该响应的置信度估计。在封闭与开放形式问答基准上的实验表明，BSDetector 比替代的不确定性估计方法（针对 GPT-3 与 ChatGPT）更准确地识别不正确的 LLM 响应。通过对 LLM 采样多个响应并选取置信度分数最高者，我们可在无任何额外训练步骤的情况下从同一 LLM 获得更准确的响应。在涉及使用 LLM 进行自动化评估的应用中，考虑我们的置信度分数可在人机协同与全自动化设置下（跨 GPT 3.5 与 4）带来更可靠的评估。
引用
@article{arxiv.2308.16175,
title = {Quantifying Uncertainty in Answers from any Language Model and Enhancing their Trustworthiness},
author = {Jiuhai Chen and Jonas Mueller},
journal= {arXiv preprint arXiv:2308.16175},
year = {2023}
}