针对 Android 应用中真实模型的隐形后门攻击
密码学与安全
2025-01-03 v1 人工智能
摘要
得益于其卓越的性能，深度神经网络(DNN)在各个领域获得了广泛应用。许多深度学习(DL)模型如今嵌入移动应用中，通过设备端DL 更易于向最终用户提供服务。然而，将设备端DL 部署到用户智能手机上同时引入了若干安全威胁。其中一种主要威胁是后门攻击。虽然多年来人们围绕后门攻击展开研究并提出了许多攻击方法，但鲜有研究针对部署在真实世界中的DL模型进行后门攻击，或显示出明显的有效性和隐蔽性不足。在本工作中，我们探索了针对从移动应用中提取的真实DL模型进行更有效且更隐蔽的后门攻击。我们的主要依据是，DNN 基于的隐写术生成的不可察觉且样本特定的后门触发器可以增强对真实模型的后门攻击效力。我们首先确认了基于隐写术的后门攻击在四个最新DNN模型上的有效性。随后，我们系统性地评估和分析了攻击的隐蔽性，以确保其难以被察觉。最后，我们在真实模型上实现后门攻击，并与三个基线方法进行比较。我们收集了 38,387 个移动应用，从中提取了 89 个DL模型，并分析这些模型以获取攻击所需的模型信息。在确定目标模型后，我们的方法比 DeepPayload 在攻击成功率上平均提高 12.50%，同时更好地保持了模型的正常性能。大量实验结果表明，我们的方法使针对真实模型的后门攻击更加有效、稳健且隐蔽。
引用
@article{arxiv.2501.01263,
title = {Stealthy Backdoor Attack to Real-world Models in Android Apps},
author = {Jiali Wei and Ming Fan and Xicheng Zhang and Wenjing Jiao and Haijun Wang and Ting Liu},
journal= {arXiv preprint arXiv:2501.01263},
year = {2025}
}