发布高效的端侧模型会增加对抗脆弱性

近来深度神经网络(DNNs)计算需求的增长引发了人们对高效深度学习机制（例如量化或剪枝）的兴趣。这些机制能够构建具有可比精度的商用规模模型的小型高效版本，从而加速其在资源受限设备上的部署。在本文中，我们研究发布大规模模型的端侧变体时的安全性考量。我们首先表明， adversary 可利用端侧模型使攻击大规模模型变得更容易。在 19 个 DNN 的评估中，通过利用已发布的端侧模型作为迁移先验，原始商用规模模型的对抗脆弱性提升了高达 100 倍。我们随后表明，随着完整规模模型与其高效模型之间相似度的增加，该脆弱性也随之增加。基于这些见解，我们提出一种防御方法，$similarity$-$unpairing$，以减小相似性为目标对端侧模型进行微调。我们在全部 19 个 DNN 上评估了我们的防御，发现其将可迁移性降低了高达 90%，并将所需查询数量减少了 10-100 倍。我们的结果表明，需要进一步研究由发布这些高效衍生模型所引发的安全（甚至隐私）威胁。