图像分类中瓶颈概念的学习
计算机视觉与模式识别
2023-04-21 v1
摘要
解释与说明深度神经网络的行为对许多任务至关重要。可解释AI提供了一种应对该挑战的途径，多通过给出决策逐像素相关性实现。然而，解读此类解释可能需要专家知识。近期一些朝向可解释性的尝试采用基于概念的框架，给出某些概念与模型决策间更高层关系。本文提出瓶颈概念学习器(BotCL)，它仅通过针对目标任务的训练中所学概念的存在/缺失来表示图像，且无需对概念显式监督。它利用自监督与定制正则化器使所学概念可被人类理解。以若干图像分类任务为试验平台，我们展示了BotCL重建神经网络以提升可解释性的潜力。代码见https://github.com/wbw520/BotCL，简易演示见https://botcl.liangzhili.com/。
引用
@article{arxiv.2304.10131,
title = {Learning Bottleneck Concepts in Image Classification},
author = {Bowen Wang and Liangzhi Li and Yuta Nakashima and Hajime Nagahara},
journal= {arXiv preprint arXiv:2304.10131},
year = {2023}
}
备注
Accepted in CVPR 2023