利用类别特定稀疏滤波器提升神经符号规则提取的可解释性与准确性
计算机视觉与模式识别
2025-01-29 v1 人工智能
摘要
使用卷积神经网络(CNN)创建可解释图像分类的神经符号模型已受到广泛关注。这些方法旨在用由CNN(用作特征提取器)和从CNN本身提取的可解释规则集组成的神经符号模型替代CNN。虽然这些方法通过提取的规则集提供了可解释性，但与原始CNN模型相比，它们常常牺牲准确性。在本文中，我们将这种准确性损失的根源确定为训练后对滤波器激活进行二值化以提取规则集。为解决此问题，我们提出了一种新颖的稀疏损失函数，能够在CNN训练期间实现类别特定的滤波器二值化，从而在提取规则集时最小化信息损失。我们使用新颖的稀疏损失函数评估了几种训练策略，分析了它们的有效性，并提供了适当使用的指导。值得注意的是，我们设立了新的基准，与先前的最先进方法相比，平均准确率提高了9%，规则集大小减少了53%，同时与原始CNN的准确率差距在3%以内。这突显了可解释神经符号模型作为黑盒CNN可行替代方案的巨大潜力。
引用
@article{arxiv.2501.16677,
title = {Improving Interpretability and Accuracy in Neuro-Symbolic Rule Extraction Using Class-Specific Sparse Filters},
author = {Parth Padalkar and Jaeseong Lee and Shiyi Wei and Gopal Gupta},
journal= {arXiv preprint arXiv:2501.16677},
year = {2025}
}