以训练促防御：针对密码分析神经网络参数提取攻击的首个防御方案

神经网络因其开发过程中涉及巨大的计算成本、专家劳动和专有数据而成为有价值的知识产权。因此，保护其参数不仅对于维持竞争优势至关重要，而且对于增强模型的安全性和隐私性也至关重要。先前的工作已经证明了密码分析攻击扩展到更深层模型的能力日益增强。在本文中，我们提出了首个针对密码分析参数提取攻击的防御机制。我们的核心见解是消除这些攻击成功所必需的神经元唯一性。我们通过一种新颖的、提取感知的训练方法来实现这一点。具体来说，我们在标准损失函数中增加了一个额外的正则化项，以最小化层内神经元权重之间的距离。因此，所提出的防御在推理过程中没有面积-延迟开销。我们评估了我们的方法在减轻提取攻击方面的有效性，同时分析了不同架构和数据集上的模型准确率。当使用相同的模型架构重新训练时，结果表明，使用修改后的损失函数，我们的防御仅导致不到1%的轻微准确率变化。此外，我们提出了一个理论框架来量化攻击的成功概率。在使用先前的攻击设置进行全面测试时，我们的防御在持续的提取周期内展示了经验上的成功，而未受保护的网络则在14分钟到4小时内被提取。