探索大语言模型在解释对话中的协同构建行为
计算与语言
2025-07-11 v2
摘要
能够生成被解释者能理解的解释是解释性人工智能的核心。由于理解取决于解释者的背景和需求，最近的研究聚焦于协同构建解释对话，即解释者持续监控解释者的理解并动态调整其解释。我们研究大语言模型（LLM）在协同构建解释对话中作为解释者的能力。具体而言，我们进行了一次用户研究，解释者在两种设置下与LLM交互，其中一种设置要求LLM以协同构建方式解释主题。我们评估解释者在对话前后的理解水平，以及他们对LLM协同构建行为的感知。我们的结果表明，LLM展现出一些协同构建行为，如提出验证性问题，这有助于促进解释者的参与并提高对主题的理解。然而，其有效监控当前理解并据此调整解释的能力仍有限。
引用
@article{arxiv.2504.18483,
title = {Investigating Co-Constructive Behavior of Large Language Models in Explanation Dialogues},
author = {Leandra Fichtel and Maximilian Spliethöver and Eyke Hüllermeier and Patricia Jimenez and Nils Klowait and Stefan Kopp and Axel-Cyrille Ngonga Ngomo and Amelie Robrecht and Ingrid Scharlau and Lutz Terfloth and Anna-Lisa Vollmer and Henning Wachsmuth},
journal= {arXiv preprint arXiv:2504.18483},
year = {2025}
}
备注
Accepted to SIGDIAL 2025