通过交互实现可解释性？支持非专家通过与日常环境交互理解预训练 CNN
人机交互
2021-10-20 v1 人工智能
机器学习
摘要
当前可解释人工智能（XAI）的研究主要面向专家用户（数据科学家或 AI 开发者）。然而，让非专家（预期将使用 AI 技术但 AI 知识有限）更易理解 AI 的重要性日益凸显。我们提出一款移动应用，支持非专家交互式地理解卷积神经网络（CNN）；它允许用户通过拍摄周围物体来玩转预训练 CNN。我们采用一种前沿 XAI 技术（类激活图）直观可视化模型的决策（导致某一结果的最重要的图像区域）。该工具部署于一门大学课程中，被发现能帮助设计专业学生生动理解预训练 CNN 在真实环境中的能力与局限。本文报告了学生 playful 探索的具体实例，以刻画其反映不同思维深度的意义建构过程。
引用
@article{arxiv.2107.01996,
title = {Explainability via Interactivity? Supporting Nonexperts' Sensemaking of Pretrained CNN by Interacting with Their Daily Surroundings},
author = {Chao Wang and Pengcheng An},
journal= {arXiv preprint arXiv:2107.01996},
year = {2021}
}
备注
8 pages