利用逻辑编程与核分组提升卷积神经网络的可解释性
机器学习
2023-10-23 v1 计算机视觉与模式识别
摘要
在深度学习领域，卷积神经网络（CNNs）的可解释性，尤其在图像分类任务背景下，仍是一项艰巨挑战。为此，我们提出一个神经符号框架NeSyFOLD-G，其利用CNN的最后一层核生成符号规则集，以使底层知识可解释。NeSyFOLD-G不同于其他类似框架之处在于，我们首先使用各核生成的特征图之间的余弦相似度，在CNN中寻找相似核的组（核分组）。一旦找到此类核组，我们将CNN中每个核组的输出二值化，并用以生成二值化表，作为基于规则的机器学习（RBML）算法FOLD-SE-M的输入数据。FOLD-SE-M随后生成可用于预测的规则集。我们提出一种新颖的核分组算法，并表明对相似核分组可显著减小FOLD-SE-M生成的规则集规模，从而提升可解释性。该规则集以符号方式封装了训练后CNN的连接主义知识。规则集可视为一个正规逻辑程序，其中每个谓词的真值依赖于CNN中的一个核组。规则集中的每个谓词通过使用少量训练所用图像的语义分割掩码映射到某一概念，以使其为人类可理解。CNN的最后几层随后可被该规则集替换，得到NeSy-G模型，用于图像分类任务。目标导向的ASP系统s(CASP)可用于获取NeSy-G模型所作任何预测的解释。我们还提出一种新算法，用于将规则集中每个谓词以其对应核组所表示的语义概念进行标注。
引用
@article{arxiv.2310.13073,
title = {Using Logic Programming and Kernel-Grouping for Improving Interpretability of Convolutional Neural Networks},
author = {Parth Padalkar and Gopal Gupta},
journal= {arXiv preprint arXiv:2310.13073},
year = {2023}
}
备注
arXiv admin note: text overlap with arXiv:2301.12667