Find the Lady：深度神经网络的排列与重同步
机器学习
2023-12-25 v1 人工智能
密码学与安全
摘要
深度神经网络的特征在于存在多个对称的、等损失的冗余解。因此，层中神经元和特征图的顺序可以进行任意排列，而不会影响（或仅极小地影响）其输出。如果我们打乱这些神经元，或者对它们施加某些扰动（如微调），能否将它们恢复至原始顺序，即实现重同步？是否存在潜在的完整性破坏威胁？回答这些问题对于神经网络白盒水印等应用至关重要，可用于所有权追踪和完整性验证。我们提出了一种重同步排列神经元顺序的方法。即使神经元进一步受到参数剪枝、量化和微调的影响，该方法依然有效，显示出对完整性攻击的鲁棒性。此外，我们提供了关于通常用于破坏模型完整性手段的理论和实践证据，并提出了解决方案以应对此类威胁。我们在流行的计算机视觉数据集和模型上测试了我们的方法，并在一种流行的白盒水印方法上展示了该威胁及我们的对策。
引用
@article{arxiv.2312.14182,
title = {Find the Lady: Permutation and Re-Synchronization of Deep Neural Networks},
author = {Carl De Sousa Trias and Mihai Petru Mitrea and Attilio Fiandrotti and Marco Cagnazzo and Sumanta Chaudhuri and Enzo Tartaglione},
journal= {arXiv preprint arXiv:2312.14182},
year = {2023}
}