通过局部解释在人与卷积神经网络间设计直接反馈回路
人机交互
2023-07-11 v1 人工智能
计算机视觉与模式识别
机器学习
摘要
局部解释在图像上提供热力图，以解释卷积神经网络（CNNs）如何得出其输出。由于其视觉直观性，该方法一直是诊断 CNNs 最受欢迎的可解释 AI（XAI）方法之一。然而，通过我们的形成性研究（S1），我们捕捉到 ML 工程师对局部解释的矛盾视角：一方面将其视为构建 CNNs 时有价值且不可或缺的预见，另一方面又因检测漏洞的启发式性质而使过程令他们精疲力竭。此外，基于从诊断中学到的漏洞来引导 CNNs 似乎极具挑战性。为缩小这一差距，我们设计了 DeepFuse，这是首个通过局部解释在诊断与修正 CNN 漏洞中实现用户与 CNNs 直接反馈回路的交互设计。DeepFuse 帮助 CNN 工程师以省力方式系统性搜索“不合理”的局部解释，并为那些被识别为不合理的解释标注新边界。接着，它基于所给标注引导模型，使模型不引入类似错误。我们对 12 名有经验的 CNN 工程师开展了为期两天的研究（S2）。使用 DeepFuse，参与者比当前最先进方法做出了更准确且“合理”的模型。此外，参与者发现 DeepFuse 引导基于案例的推理的方式能切实改进他们当前的实践。我们提供了设计启示，阐释未来 HCI 驱动的设计如何推进我们的实践，使 XAI 驱动的洞察更具可操作性。
引用
@article{arxiv.2307.04036,
title = {Designing a Direct Feedback Loop between Humans and Convolutional Neural Networks through Local Explanations},
author = {Tong Steven Sun and Yuyang Gao and Shubham Khaladkar and Sijia Liu and Liang Zhao and Young-Ho Kim and Sungsoo Ray Hong},
journal= {arXiv preprint arXiv:2307.04036},
year = {2023}
}
备注
32 pages, 6 figures, 5 tables. Accepted for publication in the Proceedings of the ACM on Human-Computer Interaction (PACM HCI), CSCW 2023