保持真实性：针对基于压缩的对抗性纯化的挑战

先前的研究表明，通过对图像进行有损压缩可用于对抗对抗性扰动的防御，但缺乏全面的攻击评估。在本文中，我们构建了针对各种压缩模型的强白盒和自适应攻击，确定攻击者面临的关键挑战：重建图像的高真实性显著增加了攻击难度。通过多个攻击情景的严格评估，我们展示，能够产生真实、高保真重建的压缩模型对我们的攻击具有显著韧性。相比之下，低真实性的压缩模型则容易被攻破。我们的分析表明，这并非由于梯度遮蔽。相较于自然图像的分布性格保持一致的真实重建似乎具有内在鲁棒性。本工作突显了未来对抗攻击面临的重要障碍，并表明开发更有效的技术以克服真实性，代表了进行全面安全评估的关键挑战。