LLM在（不）知道时能否实现 grounding：关于直接问题与加载问题的研究

人类间的交流依赖于对话 grounding，使听众即使不具备完美知识也能通过解决彼此信念中的差异达成共识。本文探讨大语言模型 (LLM) 在（不）具备知识时如何管理 common ground，聚焦于政治领域事实，因为该领域存在误导信息和 grounding 失败的高风险。我们考察 LLM 回答直接知识问题和 presuppose 误导信息的加载问题的能力。我们评估加载问题是否导致 LLM 主动进行 grounding 以纠正用户的错误信念，以及这与其知识水平和政治偏见的关系。我们的发现表明，LLM 在进行 grounding 和驳斥用户错误信念方面面临重大挑战，这对其在政治话语中缓解误导信息发挥作用提出了忧虑。