从黑箱到对话：将可解释AI融入对话智能体

可解释AI（XAI）的目标是设计方法以揭示深度神经网络等黑箱模型推理过程的内在机理，从而向人类作出解释。社会科学研究指出，此类解释应具备对话性，类似于人际间的解释方式。本工作中，我们展示了如何将XAI融入对话智能体，采用包含自然语言理解与生成组件的标准智能体设计。我们基于一个XAI问题库构建，并通过质量可控的释义对其进行扩展，以理解用户的信息需求。我们进一步系统调研文献中可提供信息以回答这些问题的适用解释方法，给出一份详尽的建议清单。我们的工作是迈向与解释智能体就机器学习模型展开真正自然对话的第一步。这份全面的XAI问题及对应解释方法清单可助力其他研究者提供必要信息以满足用户需求。为便利后续研究，我们开源了源代码与数据。