Smart App Attack：黑入 Android 应用中的深度学习模型
机器学习
2022-04-26 v1 密码学与安全
软件工程
摘要
设备端深度学习在移动应用中迅速普及。与将深度学习从智能手机卸载到云端相比，设备端深度学习支持离线模型推理同时保护用户隐私。然而，这种机制不可避免地会将模型存储在用户智能手机上，并且由于攻击者可以访问，可能引发对抗攻击。由于设备端模型的特征，大多数现有对抗攻击无法直接应用于设备端模型。本文中，我们引入一种灰盒对抗攻击框架，基于已识别的迁移学习方法和来自 TensorFlow Hub 的预训练模型，通过精心构造高度相似的二分类模型来攻击设备端模型。我们从预训练模型、数据集、迁移学习方法和对抗攻击算法四种不同设置评估了攻击的有效性和通用性。结果表明，所提攻击在不同设置下均保持有效，并显著优于最先进的基线。我们进一步对从 Google Play 收集的真实世界深度学习移动应用进行实证研究。在采用迁移学习的 53 个应用中，我们发现 71.7% 可被成功攻击，包括医学、自动化和金融类别中具有关键使用场景的流行应用。结果呼吁深度学习移动应用开发者认识并采取措施保护设备端模型。本工作的代码见 https://github.com/Jinxhy/SmartAppAttack
引用
@article{arxiv.2204.11075,
title = {Smart App Attack: Hacking Deep Learning Models in Android Apps},
author = {Yujin Huang and Chunyang Chen},
journal= {arXiv preprint arXiv:2204.11075},
year = {2022}
}
备注
Accepted to IEEE Transactions on Information Forensics and Security. This is a preprint version, the copyright belongs to The Institute of Electrical and Electronics Engineers