ADVICE：基于答案依赖的口头置信度估计

近期在大语言模型（LLM）领域的进展使其能够用自然语言表达其置信水平，提高了透明度和可靠性。然而，这种表达方式常伴随系统性过度自信，其背后的原因尚不明了。本文分析了口头置信度估计的动态过程，识别出答案独立性——即置信度未对模型自身答案进行条件化——是这一行为的主要驱动因素。为解决此问题，我们引入ADVICE（Answer-Dependent Verbalized Confidence Estimation），一个促进答案 grounding置信度估计的微调框架。大量实验表明，ADVICE显著改进了置信度校准，同时在无见情境中展现出强大的泛化能力且不损害任务性能。我们进一步证明，这些收益源于增强的答案依赖性，揭示了过度自信的来源，并实现了可信赖的置信度口语化。