通过逆向映射提升 XAI 解释的可解释性

随着 AI 系统在高风险领域的日益集成，启用用户准确地解释模型行为至关重要。虽然可以提供 AI 解释，但用户往往难以有效地与这些解释进行推理，从而限制了他们验证或从 AI 决策中学习的能力。为此，我们引入逆向映射方法，通过将用户派生的洞察重新整合到解释工作流程中来增强可视化解释。我们的系统使用大型语言模型从自由形式的用户解释中提取结构化洞察，并通过交互式注释和协调的多视图可视化将其映射回可视化解释。受可视化知识生成模型中的验证环节启发，本设计旨在促进与 AI 解释的更深入、反思性的交互。我们在原型系统中演示了该方法，并通过两个用例和定性用户反馈进行验证。