面向深度学习应用的黑盒攻击
软件工程
2021-07-28 v1
摘要
深度学习是提升诸多领域应用性能的利器，包括人脸识别、目标检测、图像分类、自然语言理解与推荐系统。随着移动设备算力的快速增长，开发者可将深度学习模型嵌入其应用，以更精准、更快速的响应构建更具竞争力的产品。尽管已有若干关于移动应用中深度学习模型对抗攻击的工作，但它们均需模型内部信息（即结构、权重）或需修改模型。本文提出一种有效的黑盒方法，通过训练替代模型来欺骗应用内的深度学习系统。为评估该方法，我们从Google Play选取10款高人气真实深度学习应用进行黑盒对抗攻击。研究发现有三个因素会影响攻击性能。我们的方法平均可达到66.60%的较高攻击成功率。与其他移动深度学习模型对抗攻击相比，在平均攻击成功率上我们的方法高出27.63%。
引用
@article{arxiv.2107.12732,
title = {Towards Black-box Attacks on Deep Learning Apps},
author = {Hongchen Cao and Shuai Li and Yuming Zhou and Ming Fan and Xuejiao Zhao and Yutian Tang},
journal= {arXiv preprint arXiv:2107.12732},
year = {2021}
}