MalModel: 通过黑盒后门攻击在移动深度学习模型中隐藏恶意载荷
密码学与安全
2024-01-08 v1
摘要
移动恶意软件已成为普适移动计算时代最严重的安全威胁之一。尽管安全专家付出了大量努力来对抗它，但近年来识别出的恶意软件样本数量仍在快速增长。这在一定程度上可归因于新兴技术不断为攻击者开辟尚未充分研究的攻击面。一个典型例子是最近开发的移动机器学习框架，它支持在移动设备上存储和运行深度学习模型。尽管有明显优势，但这一新特性也不经意间引入了潜在漏洞（例如，设备上的模型可能被修改用于恶意目的）。本文提出一种方法，通过将恶意载荷隐藏在深度学习模型的参数中，来生成或转换移动恶意软件，该方法基于考虑四个因素（层类型、层编号、层覆盖率和替换字节数）的策略。利用所提方法，我们可以在深度学习移动应用中隐蔽地运行恶意软件，同时对模型性能影响很小（即准确率下降低至0.4%，延迟开销最多39ms）。
引用
@article{arxiv.2401.02659,
title = {MalModel: Hiding Malicious Payload in Mobile Deep Learning Models with Black-box Backdoor Attack},
author = {Jiayi Hua and Kailong Wang and Meizhen Wang and Guangdong Bai and Xiapu Luo and Haoyu Wang},
journal= {arXiv preprint arXiv:2401.02659},
year = {2024}
}
备注
Due to the limitation "The abstract field cannot be longer than 1,920 characters", the abstract here is shorter than that in the PDF file