基于近似误差分析的可解释人工智能方法
机器学习
2024-11-27 v1
摘要
本文提出了一种基于近似误差分析(Near Misses Analysis, NMA)的新型可解释人工智能方法。该方法在不深入探讨神经网络(Neural Network, NN)显式结构的情况下，通过揭示其隐含决策过程推断出逻辑'概念'的层级结构。我们在大小和形状各异的网络架构(如 ResNet、VGG、EfficientNet、MobileNet)上测试了所提出的可解释人工智能方法，数据集包括 ImageNet 和 CIFAR100。结果表明，该方法可用以反映神经网络在概念生成过程中的隐含机制。我们构建了一个新的可解释性指标。此外，实验结果表明，虽然高效网络架构在相同准确率下所需神经元数量更少，但在概念生成方面的可解释性和鲁棒性仍可能受到牺牲。因此，我们为可解释人工智能研究指出了一条值得期待的新道路。
引用
@article{arxiv.2411.16895,
title = {Explainable AI Approach using Near Misses Analysis},
author = {Eran Kaufman and Avivit levy},
journal= {arXiv preprint arXiv:2411.16895},
year = {2024}
}