通过引导概念学习实现可理解的卷积神经网络
计算机视觉与模式识别
2021-05-25 v2
摘要
学习与人类感知一致的概念对于深度神经网络赢得终端用户信任十分重要。事后解释方法缺乏模型所学特征表示的可解释性。本工作提出一种引导学习方法，在基于 CNN 的架构中增加额外的概念层，以学习视觉特征与词短语之间的关联。我们设计了一个目标函数，同时优化预测准确率和所学特征表示的语义。实验结果表明，所提模型能够学习与人类感知一致的概念及其对模型决策的相应贡献，且不损害准确率。此外，这些学到的概念可迁移至具有相似概念的新物体类别。
引用
@article{arxiv.2101.03919,
title = {Comprehensible Convolutional Neural Networks via Guided Concept Learning},
author = {Sandareka Wickramanayake and Wynne Hsu and Mong Li Lee},
journal= {arXiv preprint arXiv:2101.03919},
year = {2021}
}
备注
Accepted to IJCNN 2021