利用结构化背景知识与演绎推理理解 CNN 隐藏神经元激活
机器学习
2023-08-10 v2 人工智能
计算机视觉与模式识别
摘要
可解释人工智能中的一个主要挑战是正确解释隐藏神经元的激活：准确的解释将深入揭示深度学习系统内部在输入上检测到什么相关信息，从而揭开深度学习系统原本的黑箱特征。现有前沿表明，隐藏节点激活在某些情况下可以以对人类有意义的方式被解释，但能够假设并验证隐藏神经元激活解释的系统性自动化方法尚待充分探索。本文给出这样一种方法，并证明其能提供有意义的解释。我们的方法基于使用从 Wikipedia 概念层次结构策划的约 200 万类大规模背景知识，以及一种称为基于描述逻辑的概念归纳的符号推理方法（最初为语义网领域应用而开发）。结果显示，我们可通过假设与验证过程，自动将背景知识中有意义的标签附加到卷积神经网络稠密层的各个神经元上。
引用
@article{arxiv.2308.03999,
title = {Understanding CNN Hidden Neuron Activations Using Structured Background Knowledge and Deductive Reasoning},
author = {Abhilekha Dalal and Md Kamruzzaman Sarker and Adrita Barua and Eugene Vasserman and Pascal Hitzler},
journal= {arXiv preprint arXiv:2308.03999},
year = {2023}
}