应用内深度学习模型的自动化切片与测试
软件工程
2022-05-17 v1 密码学与安全
摘要
智能应用（iApps）配备应用内深度学习（DL）模型，正兴起以提供稳定的 DL 推理服务。然而，应用商店难以自动测试 iApps，因为应用内模型是黑盒且与普通代码耦合。在这项工作中，我们提出了一个自动化工具 ASTM，它能够实现应用内模型的大规模测试。ASTM 以 iApps 作为输入，其输出可替代应用内模型作为测试对象。ASTM 提出两种重建技术，将应用内模型转换为支持反向传播的版本，并重建用于 DL 推理的 IO 处理代码。在 ASTM 的帮助下，我们对 100 个独特的商业应用内模型的鲁棒性进行了大规模研究，发现 56% 的应用内模型在我们的场景下易受鲁棒性问题影响。ASTM 还检测到了针对三个代表性 iApps 的物理攻击，这些攻击可能导致经济损失与安全问题。
引用
@article{arxiv.2205.07228,
title = {Automation Slicing and Testing for in-App Deep Learning Models},
author = {Hao Wu and Yuhang Gong and Xiaopeng Ke and Hanzhong Liang and Minghao Li and Fengyuan Xu and Yunxin Liu and Sheng Zhong},
journal= {arXiv preprint arXiv:2205.07228},
year = {2022}
}