用于卷积神经网络偏差校正的神经符号框架
计算机视觉与模式识别
2025-01-22 v4
摘要
最近在解释卷积神经网络（CNN）方面的努力集中于将 CNN 滤波器的激活转换为分层答案集程序（ASP）规则集。已知 CNN 滤波器捕获高级图像概念，因此规则集中的谓词映射到其对应滤波器所代表的概念。因此，规则集例证了 CNN 在其为任何图像分类任务学习的概念方面的决策过程。这些规则集有助于理解 CNN 中的偏差，尽管纠正偏差仍然是一个挑战。我们引入了一个名为 NeSyBiCor 的神经符号框架，用于对训练好的 CNN 进行偏差校正。给定 CNN 偏向的符号概念（作为 ASP 约束），我们将概念转换为其对应的向量表示。然后，使用我们新颖的语义相似性损失重新训练 CNN，该损失将滤波器推离（或推向）学习期望/不期望的概念。重新训练后获得的最终 ASP 规则集高度满足约束，从而显示了 CNN 知识的修正。我们证明了我们的 NeSyBiCor 框架成功纠正了在“Places”数据集子集类上训练的 CNN 的偏差，同时牺牲了最小的准确性并提高了可解释性。
引用
@article{arxiv.2405.15886,
title = {A Neurosymbolic Framework for Bias Correction in Convolutional Neural Networks},
author = {Parth Padalkar and Natalia Ślusarz and Ekaterina Komendantskaya and Gopal Gupta},
journal= {arXiv preprint arXiv:2405.15886},
year = {2025}
}