利用生成模型与对抗扰动实现神经网络的高效可视化

本文提出了一种通过生成网络进行深度可视化的新方法，对现有方法进行了改进。我们的模型通过减少使用的网络数量简化了架构，只需要一个生成器和一个判别器，而不是传统上涉及的多个网络。此外，我们的模型需要较少的先验训练知识，并使用非对抗性训练过程，其中判别器作为生成器的引导者而非竞争者。这项工作的核心贡献在于能够生成与特定类别标签对齐的详细可视化图像。我们的模型包含一个独特的受跳跃连接启发的块设计，通过在多层之间传播类别信息来增强标签导向的图像生成。此外，我们探讨了如何将这些生成的可视化用作对抗样本，以对原始图像进行最小可感知的修改来有效欺骗分类网络。实验结果表明，我们的方法在定向和非定向攻击中均优于传统的对抗样本生成技术，在最小扰动下实现了高达94.5%的欺骗率。这项工作弥合了可视化方法与对抗样本之间的差距，提出欺骗率可以作为评估可视化质量的定量指标。这项研究的见解为神经网络的解释性及其对对抗攻击的脆弱性提供了新的视角。