大型语言模型能否忠实地用语言表达其内在不确定性？
计算与语言
2024-09-27 v2
摘要
我们认为，大型语言模型 (LLM) 应该能够用自然语言表达其内在不确定性。例如，如果 LLM 对同一问题的两个相互矛盾的答案都有相同概率输出，其生成的响应应通过含糊其措辞来反映这种不确定性（例如：“我不确定，但我认为……”）。我们基于模型对其所作断言的内在置信度与其表达方式的果断程度之间的差距来 formalizing 忠实响应不确定性。该水平级指标可可靠地指示模型是否反映其不确定性，因为它对过度和不足的含糖都进行惩罚。我们评估了各种对齐的 LLM 在忠实传达不确定性方面的表现，这些评估基于几个知识密集型问答任务。我们的结果提供了强有力的证据表明，现代 LLM 在忠实传达其不确定性方面表现不佳，需要更好的对齐才能提高其可信度。
引用
@article{arxiv.2405.16908,
title = {Can Large Language Models Faithfully Express Their Intrinsic Uncertainty in Words?},
author = {Gal Yona and Roee Aharoni and Mor Geva},
journal= {arXiv preprint arXiv:2405.16908},
year = {2024}
}
备注
To appear in EMNLP 2024 (main conference)