均匀输入对计算机视觉中激活稀疏性与能量-延迟攻击的影响

资源效率在当今机器学习中扮演着重要角色。能耗与决策延迟是确保可持续和实际应用的两个关键方面。遗憾的是，能耗和决策延迟在面对敌手时并不鲁棒。研究者近期证明，攻击者可以在推理时计算并提交所谓的“海绵样本”，以增加神经网络的能耗和决策延迟。在计算机视觉中，所提出的策略构造激活稀疏性较低的输入，而激活稀疏性原本可用于加速计算。本文分析了这些能量-延迟攻击降低激活稀疏性的机制。特别地，我们发现输入均匀性是关键促成因素。一幅均匀图像，即表面大部分平坦、颜色一致的图像，由于卷积、批归一化和 ReLU 激活之间特定的相互作用，会触发更多激活。基于这些见解，我们提出了两种新的简单而有效的海绵样本构造策略：从概率分布中采样图像，以及在自然数据集中识别稠密但不显眼的输入。我们在多个图像分类模型上进行了全面评估，实证检验了我们的发现，并表明我们的攻击达到了与先前海绵样本方法相同的稀疏性效果，但计算开销仅为前者的一小部分。我们还表明，我们的海绵样本可在不同神经网络之间迁移。最后，我们讨论了如何善用这些发现，通过提高稀疏性来提升效率。