通过激活最大化理解表示

理解深度神经网络（DNN）内部特征表示是通往模型可解释性的基本步骤。受生物学神经元使用视觉刺激探针的启发，近期深度学习研究采用激活最大化（AM）合成能够激发人工神经元强响应的输入。本文提出一种适用于卷积神经网络（CNN）和Vision Transformer（ViT）的统一特征可视化框架。与先前研究主要聚焦CNN最后输出层神经元不同，我们将特征可视化扩展到中间层，从而提供对学习特征表示层次结构更深入的洞察。此外，我们调查如何利用激活最大化生成对抗样本，揭示DNN的潜在漏洞和决策边界。我们的实验表明，该方法在传统CNN和现代ViT中均有效，凸显了其通用性和解释价值。