LucidPPN：面向用户中心可解释计算机视觉的无歧义原型部分网络
计算机视觉与模式识别
2024-05-24 v1 人工智能
机器学习
摘要
原型部分网络将深度学习的力量与基于案例推理的可解释性相结合，以做出准确、可解释的决策。它们遵循“这看起来像那”的推理，用训练图像中的补丁表示每个原型部分。然而，单个图像补丁包含多个视觉特征，如颜色、形状和纹理，使得用户难以识别哪个特征对模型重要。为了减少这种模糊性，我们引入了Lucid原型部分网络（LucidPPN），一种新颖的原型部分网络，它将颜色原型与其他视觉特征分离。我们的方法采用两个推理分支：一个用于非颜色视觉特征，处理灰度图像；另一个仅关注颜色信息。这种分离使我们能够澄清模型的决策是基于颜色、形状还是纹理。此外，LucidPPN识别对应于分类对象语义部分的原型部分，使得数据类之间的比较更加直观，例如，当两种鸟类可能在腹部颜色上有所不同时。我们的实验表明，两个分支是互补的，并且一起达到了与基线方法相当的结果。更重要的是，LucidPPN生成更少歧义的原型部分，增强了用户理解。
引用
@article{arxiv.2405.14331,
title = {LucidPPN: Unambiguous Prototypical Parts Network for User-centric Interpretable Computer Vision},
author = {Mateusz Pach and Dawid Rymarczyk and Koryna Lewandowska and Jacek Tabor and Bartosz Zieliński},
journal= {arXiv preprint arXiv:2405.14331},
year = {2024}
}
备注
Work in the review process. The code will be available upon acceptance