向非专家解释分类：一项针对分类器事后解释的XAI用户研究——当人们缺乏专业知识时
人工智能
2022-12-20 v1 人机交互
摘要
极少数可解释人工智能（XAI）研究考虑了用户对解释的理解如何可能因其对所要解释领域的了解程度（即，其专业知识是否不同）而变化。然而，专业知识是大多数高风险人类决策（例如，理解实习医生与经验丰富的顾问医生有何不同）的一个关键方面。因此，本文报告了一项新颖的用户研究（N=96），探讨人们在某个领域的专业知识如何影响他们通过示例对深度学习黑箱分类器事后解释的理解。结果表明，当所考虑的基于图像的领域是熟悉的（即MNIST）而非不熟悉的（即Kannada MNIST）时，人们对正确和错误分类的解释的理解在多个维度（例如，响应时间、对正确性和有用性的感知）上发生了显著变化。讨论了这些新发现对XAI策略的更广泛影响。
引用
@article{arxiv.2212.09342,
title = {Explaining Classifications to Non Experts: An XAI User Study of Post Hoc Explanations for a Classifier When People Lack Expertise},
author = {Courtney Ford and Mark T Keane},
journal= {arXiv preprint arXiv:2212.09342},
year = {2022}
}
备注
16 pages, 6 figures