NeuroView：可解释的深度网络决策
计算机视觉与模式识别
2021-10-18 v1 机器学习
摘要
深度神经网络(DN)在众多计算机视觉任务中提供了超越人类的性能，但究竟DN中的哪些单元对特定决策做出了贡献，这一点仍不清楚。NeuroView是一个通过设计即可解释/可说明的新型DN架构家族。该家族的每个成员都源自一个标准的DN架构，通过对其单元输出值进行向量量化，并将其馈入一个全局线性分类器。由此产生的架构在每个单元的状态与分类决策之间建立了直接的因果关系。我们在标准数据集和分类任务上验证了NeuroView，以展示其单元/类别映射如何有助于理解决策过程。
引用
@article{arxiv.2110.07778,
title = {NeuroView: Explainable Deep Network Decision Making},
author = {CJ Barberan and Randall Balestriero and Richard G. Baraniuk},
journal= {arXiv preprint arXiv:2110.07778},
year = {2021}
}
备注
12 pages, 7 figures