EvilModel：将恶意软件隐藏于神经网络模型之中
密码学与安全
2022-02-15 v4 人工智能
摘要
隐蔽且规避式地投递恶意软件对于高级恶意软件攻击活动至关重要。本文提出一种通过神经网络模型隐蔽且规避式投递恶意软件的新方法。神经网络模型可解释性差且具有良好的泛化能力。通过将恶意软件嵌入神经元中，可在对神经网络性能影响微小或无影响的情况下隐蔽投递恶意软件。同时，由于神经网络模型结构保持不变，其可通过杀毒引擎的安全扫描。实验表明，可在精度损失小于 1% 的情况下将 36.9MB 恶意软件嵌入 178MB 的 AlexNet 模型中，且 VirusTotal 中的杀毒引擎未产生任何告警，验证了该方法的可行性。随着人工智能的广泛应用，利用神经网络实施攻击成为一种前沿趋势。我们希望本工作能为防御神经网络辅助攻击提供参考场景。
引用
@article{arxiv.2107.08590,
title = {EvilModel: Hiding Malware Inside of Neural Network Models},
author = {Zhi Wang and Chaoge Liu and Xiang Cui},
journal= {arXiv preprint arXiv:2107.08590},
year = {2022}
}
备注
To be appear at 26th IEEE Symposium on Computers and Communications (ISCC 2021)