如何向数据科学家解释？——基于心智模型的可解释 AI 用户研究
人机交互
2025-02-25 v1
摘要
在可解释人工智能（XAI）领域，现有研究有限识别出角色特定的解释需求。本研究聚焦数据科学家——负责训练、测试、部署与维护 AI 系统中机器学习（ML）模型的人群。旨在确定数据科学家的具体解释内容。通过任务分析识别用户目标与主动任务。利用解释问题识别任务特定的解释需求与内容。从这些个性化解释中，我们构建了解释的心智模型，并通过质性研究（n=12）进行验证与修订。在第二项定量研究（n=12）中，我们检验不同解释意图（原因、比较、准确性、预测、信任）所需的解释内容类型。研究发现：F1：解释内容来源于应用领域、系统领域与 AI 领域。F2：解释内容可能较为复杂，应按顺序或层级方式组织（新颖论点）。F3：解释内容包括上下文、输入、证据、属性、排序列表、中间结果、有效性原则及输入/输出关系（新颖论点）。F4：解释内容应组织为因果叙事。F5：标准化解释问题确保解释需求的全面覆盖（新颖论点）。F6：通过完善解释的心智模型，可显著提升其质量（新颖论点）。
引用
@article{arxiv.2502.16083,
title = {How to explain it to data scientists? A mixed-methods user study about explainable AI, using mental models for explanations},
author = {Helmut Degen and Ziran Min and Parinitha Nagaraja},
journal= {arXiv preprint arXiv:2502.16083},
year = {2025}
}
备注
47 pages with 19 figures and 6 tables