X-ToM：以心理理论进行解释以获取合理的人类信任

我们提出一个新的可解释 AI (XAI) 框架，旨在通过解释增进人类对 AI 机器的合理信任与依赖。我们将解释视为机器与人类用户之间迭代的沟通过程，即对话。更具体地，机器在对话中生成解释序列，在每一对话轮次考虑三个重要方面：(a) 人的意图（或好奇心）；(b) 人对机器的理解；以及 (c) 机器对人的理解。为此，我们使用心理理论 (ToM)，它帮助我们显式建模人的意图、由人推断的机器心智以及由机器推断的人之心智。换言之，ToM 中的这些显式心理表征被纳入以学习考虑人的感知与信念的最优解释策略。此外，我们还展示 ToM 通过比对全部三种心理表征，有助于定量度量人对机器的合理信任。我们将框架应用于三项视觉识别任务，即图像分类、动作识别与人身体姿态估计。我们认为，基于 ToM 的解释是实用的，且对专家与非专家用户而言都更自然地理解复杂机器学习模型的内部运作。据我们所知，这是首个利用 ToM 导出解释的工作。广泛的人类研究实验验证了我们的假设，表明所提解释在所有标准定量与定性 XAI 评估指标（包括人类信任、依赖与解释满意度）上显著优于 SOTA XAI 方法。