基于LLM的对话状态跟踪置信度估计
计算与语言
2024-09-24 v2 人工智能
摘要
估计模型对其输出的置信度对于基于大型语言模型（LLM）的对话AI系统至关重要，尤其是为了减少幻觉和防止过度依赖。在本工作中，我们提供了对方法的详尽探索，包括针对开放型和封闭型LLM所提出的方法，旨在量化并利用模型不确定性以提高LLM生成响应的可靠性，具体聚焦于任务导向对话系统（TODS）中的对话状态跟踪（DST）。无论模型类型，都需要经过良好校准的置信度分数来处理不确定性，从而提高模型性能。我们评估了四种基于softmax、原始token得分、语言化置信度以及这些方法的组合来估计置信度分数的方法，使用ROC曲线下面积（AUC）指标来评估校准程度，AUC值越高表示校准越好。我们还通过一种提出用于封闭模型的自探针机制来增强这些方法。 Furthermore, we assess these methods using an open-weight model fine-tuned for the task of DST, achieving superior joint goal accuracy (JGA). Our findings also suggest that fine-tuning open-weight LLMs can result in enhanced AUC performance, indicating better confidence score calibration.
引用
@article{arxiv.2409.09629,
title = {Confidence Estimation for LLM-Based Dialogue State Tracking},
author = {Yi-Jyun Sun and Suvodip Dey and Dilek Hakkani-Tur and Gokhan Tur},
journal= {arXiv preprint arXiv:2409.09629},
year = {2024}
}
备注
Accepted for publication at IEEE SLT 2024