澄清、退让还是回答？基于信念增强生成的对话策略
计算与语言
2026-05-26 v1 人工智能
机器学习
摘要
大型语言模型（LLM）定义了文本的分布，可视为不确定性的概率表示：通过采样 K 个响应可得到信念状态——模型认为合理的响应。现有工作利用该表示进行狭义任务，如解码或选择性预测，常需人工干预，无法直接控制生成。我们提出信念增强生成（Belief-Augmented Generation, BAG）：通过提示词将 LLM 锚定于其自身的信念状态，并让其对这些 K 个样本进行推理，以决定对话策略：回答、澄清或退让。在多轮模糊问答场景中发现，LLM 默认很少澄清或退让，忽略输入或事实上的不确定性。BAG 在六个模型上均提升了问答准确率，策略决策对信念状态的忠实度也优于仅靠提示的基线方法。然而，如何区分何时该澄清与何时该退让仍然具有挑战性。
引用
@article{arxiv.2605.25831,
title = {Clarify, Abstain or Answer? Strategising in Conversation with Belief-Augmented Generation},
author = {Joris Baan and Wilker Aziz and Barbara Plank and Raquel Fernández},
journal= {arXiv preprint arXiv:2605.25831},
year = {2026}
}