神经网络中可解释的部分-整体层次结构与概念-语义关系
计算机视觉与模式识别
2022-03-08 v1
摘要
深度神经网络在大量任务中取得了优异的结果，常常超越人类专家。然而，当前神经架构的一个已知局限是难以理解和解释网络对给定输入的响应。这直接与神经网络模型庞大的变量数量及其相关的非线性有关，这些模型常被当作黑箱使用。在自动驾驶、安全安保、医疗健康等关键应用中，尽管此类系统在特定任务上性能精确，但网络行为缺乏可解释性往往引发质疑并限制其可信度。此外，单一指标（如分类准确率）对非详尽的真实场景评估是不充分的。本文希望向神经网络可解释性迈出一步，提供解释其行为的新工具。我们提出 Agglomerator，一个能够从视觉线索提供部分-整体层次结构表示，并依据类间概念-语义层次结构组织输入分布的框架。我们在 SmallNORB、MNIST、FashionMNIST、CIFAR-10 和 CIFAR-100 等常用数据集上评估了我们的方法，提供了比其它最先进方法更具可解释性的模型。
引用
@article{arxiv.2203.03282,
title = {Interpretable part-whole hierarchies and conceptual-semantic relationships in neural networks},
author = {Nicola Garau and Niccolò Bisagno and Zeno Sambugaro and Nicola Conci},
journal= {arXiv preprint arXiv:2203.03282},
year = {2022}
}
备注
Accepted for CVPR'22