超越模型本身：针对 Android 应用中深度学习模型的数据预处理攻击
密码学与安全
2023-05-12 v2 人工智能
计算机视觉与模式识别
摘要
近年来，深度学习（DL）模型的日益普及以及智能手机在计算方面低延迟和带宽节省等优势，催生了智能移动应用（亦称 DL 应用）的出现。然而，这一技术发展也引发了一些安全问题，包括对抗样本、模型窃取和数据投毒问题。现有关于设备端 DL 模型攻击与防御的研究主要聚焦于模型本身，而数据处理扰动对模型推理的影响却鲜有关注。这一认知差距凸显了需要进一步研究以充分理解和解决设备端模型数据处理相关的安全问题。本文提出了一种基于数据处理的针对真实世界 DL 应用的攻击。具体而言，我们的攻击可在不影响 DL 应用运行的情况下影响模型的性能与延迟。为证明攻击的有效性，我们对从 Google Play 收集的 517 个真实世界 DL 应用进行了实证研究。在使用 MLkit 的 320 个应用中，我们发现 81.56% 可被成功攻击。结果强调了 DL 应用开发者需意识到并从数据处理角度采取行动以保护设备端模型安全的重要性。
引用
@article{arxiv.2305.03963,
title = {Beyond the Model: Data Pre-processing Attack to Deep Learning Models in Android Apps},
author = {Ye Sang and Yujin Huang and Shuo Huang and Helei Cui},
journal= {arXiv preprint arXiv:2305.03963},
year = {2023}
}
备注
Accepted to AsiaCCS WorkShop on Secure and Trustworthy Deep Learning Systems (SecTL 2023)