通过基于电导的信息平面分析增强神经网络可解释性

信息平面是一个用于分析神经网络中信息流动的概念框架，但传统的基于激活值的方法可能无法完全捕捉信息处理的动态。本文介绍了一种新方法，利用层电导（一种对输入特征的敏感性度量）来增强信息平面分析。通过纳入基于梯度的贡献，我们提供了对网络内信息动态更精确的表征。所提出的基于电导的信息平面和新的信息转换效率（ITE）度量在预训练的ResNet50和VGG16模型上使用ImageNet数据集进行了评估。我们的结果证明了识别对模型性能和可解释性有显著贡献的关键隐藏层的能力，提供了对跨层信息压缩、保留和利用的见解。基于电导的方法提供了对特征归因的细粒度视角，增强了我们对神经网络决策过程的理解。此外，我们的实证发现挑战了信息瓶颈理论的某些理论预测，突出了真实世界数据场景中信息动态的复杂性。所提出的方法不仅推进了我们对神经网络中信息动态的理解，而且通过支持开发更可解释、高效和鲁棒的模型，具有显著影响更广泛人工智能领域的潜力。