NeSyFOLD：面向可解释图像分类的神经符号框架
机器学习
2023-08-22 v3 人工智能
计算机视觉与模式识别
摘要
CNN 等深度学习模型已在图像分类等计算机视觉任务中超越人类表现。然而，尽管这些模型高度复杂，却缺乏可解释性，可能导致反映数据中既有偏见的有偏结果。我们旨在使 CNN 做出的预测具备可解释性。为此，我们提出一种称为 NeSyFOLD 的新颖框架，用于构建面向图像分类任务的神经符号（NeSy）模型。该模型为一个 CNN，其最后卷积层之后的所有层被分层回答集程序（ASP）所替代。一种称为 FOLD-SE-M 的基于规则的机器学习算法用于从最后卷积层的二值化滤波器激活中导出该分层回答集程序。该回答集程序可视为规则集，其中每个谓词的真值依赖于 CNN 中对应核的激活。该规则集作为模型的全局解释，是可解释的。NeSy 模型所做预测的论证可借助 ASP 解释器获得。我们还将 NeSyFOLD 框架与采用称为 Elite BackProp（EBP）的稀疏核学习技术训练的 CNN 结合使用。这在不牺牲准确率或保真度的前提下显著缩减了规则集规模，从而提升了 NeSy 模型的可扩展性及其规则集的可解释性。评估在具有不同复杂度和规模的数据集上进行。为使规则集更直观易懂，我们提出一种新颖算法，将规则集中每个核对应的谓词标注其所学语义概念。我们评估了“语义标注算法”的性能，以量化该标注对 NeSy 模型与 NeSy-EBP 模型的有效性。
引用
@article{arxiv.2301.12667,
title = {NeSyFOLD: Neurosymbolic Framework for Interpretable Image Classification},
author = {Parth Padalkar and Huaduo Wang and Gopal Gupta},
journal= {arXiv preprint arXiv:2301.12667},
year = {2023}
}