通过识别具预测信息的输入特征实现细粒度神经网络解释
机器学习
2021-12-09 v2 计算机视觉与模式识别
摘要
阐明黑盒神经网络的一种主要方法是特征归因，即识别输入特征对网络预测的重要性。特征的预测信息近来被提出作为衡量其特征重要性的代理。迄今为止，预测信息仅通过在网络内部放置信息瓶颈来为潜在特征识别。我们提出一种在输入域中识别具预测信息特征的方法。该方法实现对输入特征信息的细粒度识别，且与网络架构无关。我们方法的核心思想是利用输入上的瓶颈，仅让与预测性潜在特征相关联的输入特征通过。我们使用主流特征归因评估实验将我们的方法与若干特征归因方法进行比较。代码已公开可用。
引用
@article{arxiv.2110.01471,
title = {Fine-Grained Neural Network Explanation by Identifying Input Features with Predictive Information},
author = {Yang Zhang and Ashkan Khakzar and Yawei Li and Azade Farshad and Seong Tae Kim and Nassir Navab},
journal= {arXiv preprint arXiv:2110.01471},
year = {2021}
}
备注
NeurIPS 2021 (Neural Information Processing Systems)