从神经激活到概念:神经网络中概念解释综述
人工智能
2024-05-06 v2 计算与语言
计算机视觉与模式识别
机器学习
神经与进化计算
摘要
本文综述了近期用于解释神经网络中概念的方法。概念可作为学习与推理之间的自然纽带:一旦识别出神经学习系统所使用的概念,便可将这些概念与推理系统整合以进行推断,或利用推理系统对其施加作用以改进或增强学习系统。另一方面,知识不仅可从神经网络中提取,概念知识亦可被注入神经网络架构。由于学习与推理的整合是神经符号 AI 的核心,本综述所获见解可作为迈向基于可解释概念的神经符号 AI 的重要一步。
引用
@article{arxiv.2310.11884,
title = {From Neural Activations to Concepts: A Survey on Explaining Concepts in Neural Networks},
author = {Jae Hee Lee and Sergio Lanza and Stefan Wermter},
journal= {arXiv preprint arXiv:2310.11884},
year = {2024}
}
备注
Accepted in Neurosymbolic Artificial Intelligence