我可以追问吗？理解对话在神经网络可解释性中的益处

可解释人工智能（XAI）研究旨在为不透明 AI 模型的决策过程提供洞察。迄今为止，大多数 XAI 方法提供一次性且静态的解释，无法迎合用户多样的背景与理解水平。本文中，我们探究自由形式对话能否增强用户对静态解释的理解、提升对解释方法的接受度与信任，并促进人机协作。参与者先接触静态解释，随后就解释内容与人类专家进行对话。我们衡量了该对话对参与者依据解释从三个机器学习模型中选择最准确模型的能力，以及其自我报告的理解、接受与信任的影响。实证结果表明，对话显著改善了理解、接受、信任与协作。我们的发现凸显了以自由形式对话形式提供定制化模型解释的重要性，并为未来对话式解释的设计提供了见解。