SketchXAI：面向人类草图可解释性的首次探索
计算机视觉与模式识别
2023-04-25 v1
摘要
本文首次将人类草图引入 XAI（可解释人工智能）的图景中。我们认为草图作为一种“以人为中心”的数据形式，代表了研究可解释性的自然接口。我们专注于培育草图特定的可解释性设计。这始于将笔画识别为独特的构建块，其在对象构建与操控上提供了照片中不可能具有的灵活性。此后，我们设计了一个简单的可解释性友好的草图编码器，以适配笔画的固有属性：形状、位置与顺序。接着我们着手定义史上首个草图 XAI 任务，即笔画位置反演 SLI。正如我们有照片的热力图、文本的相关矩阵，SLI 通过询问网络能多好地恢复未见草图的笔画位置，为草图提供了可解释性视角。我们提供定性结果供读者在文中作为 SLI 过程的快照解读，并在项目页以 GIF 形式呈现。一个微小但有趣的注记是，得益于其草图特定设计，我们的草图编码器在参数量最少的同时也取得了迄今最佳的草图识别准确率。代码可在 \url{https://sketchxai.github.io} 获取。
引用
@article{arxiv.2304.11744,
title = {SketchXAI: A First Look at Explainability for Human Sketches},
author = {Zhiyu Qu and Yulia Gryaditskaya and Ke Li and Kaiyue Pang and Tao Xiang and Yi-Zhe Song},
journal= {arXiv preprint arXiv:2304.11744},
year = {2023}
}
备注
CVPR 2023