利用置换对称性防御深度神经网络中的隐写恶意软件
密码学与安全
2025-10-16 v2 人工智能
摘要
深度神经网络正被越来越多的应用所使用，涵盖生产系统和个人使用。因此，网络检查点经常被共享和分发到各种平台以简化开发流程。本工作考虑了神经网络隐写恶意软件的威胁，即恶意软件以可忽略不计的网络精度代价嵌入神经网络检查点中。这构成了一个重大安全隐患，但尚未受到深度学习从业者和安全专家的足够重视。我们提出了针对此类攻击的首个有效对策。具体而言，我们证明了最先进的神经网络隐写恶意软件可以通过打乱权重矩阵和偏置矩阵的列顺序（等价于卷积层的通道顺序）来高效且有效地被中和。我们表明，这能以零网络精度代价有效破坏最先进的神经网络隐写术中嵌入的载荷，显著优于竞争方法。随后我们讨论了绕过此防御的可能手段、额外的防御方法，并倡导持续开展机器学习系统安全研究。
引用
@article{arxiv.2509.20399,
title = {Defending against Stegomalware in Deep Neural Networks with Permutation Symmetry},
author = {Birk Torpmann-Hagen and Michael A. Riegler and Pål Halvorsen and Dag Johansen},
journal= {arXiv preprint arXiv:2509.20399},
year = {2025}
}