跳跃连接对模型反向攻击的脆弱性研究

跳跃连接是现代深度神经网络 (DNN) 如 CNN 和 ViT 的基本架构设计之一。虽然它们在显著性地提高模型性能方面发挥着重要作用，但我们发现了与跳跃连接相关的模型反向 (Model Inversion, MI) 攻击的脆弱性，这类攻击旨在通过滥用模型来重建私有训练数据。在本文中，我们作为首次理解 DNN 架构如何影响 MI 的工作，研究了跳跃连接对 MI 的影响。我们的发现包括：1) 跳跃连接强化 MI 攻击并损害数据隐私。2) 最后一个阶段的跳跃连接对攻击最为关键。3) 用于消除推理时架构中跳跃连接的 RepVGG 方法无法缓解对 MI 攻击的脆弱性。4) 基于我们的发现，我们首次提出了 MI 韧性架构设计。毫无华丽之言，我们在大量实验中表明，我们的 MI 韧性架构在 MI 韧性方面可以超过最先进 (SOTA) 防御方法。此外，我们的 MI 韧性架构与现有的 MI 防御方法是互补的。我们的项目可在 https://Pillowkoh.github.io/projects/RoLSS/ 查阅。