基于熵的卷积神经网络非侵入式可靠性监控

卷积神经网络（CNNs）已成为现代计算机视觉的基石，凭借在多样化图像识别任务上的突破性精度而备受推崇。尽管如此，这些网络在分布式数据上表现出色，却对难以察觉的输入修改（即对抗性扰动）仍然脆弱，这类修改可导致高置信度的误分类。然而，现有的检测方法要么需要昂贵的重新训练，要么修改网络结构，或会降低干净输入的性能。本文表明，对抗性扰动会在 CNN 激活中立即产生可检测的熵信号，可无需任何模型修改进行监控。我们通过在 VGG-16 上进行并行熵监控，展示了对抗输入在早期卷积层中持续偏移激活熵 7%，从而实现 90% 的检测准确率，同时误报率和漏报率均低于 20%。干净与对抗熵分布之间的完全分离表明，CNN 本质上在其激活模式中编码了分布偏移。本工作表明，仅凭激活熵即可评估 CNN 的可靠性，从而实现无需牺牲原始模型性能即可实时检测对抗输入的自诊断视觉系统的部署。