GGT：用于深度神经网络对抗样本检测的图引导测试
机器学习
2021-07-16 v1 人工智能
密码学与安全
摘要
深度神经网络（DNN）已知易受对抗样本攻击，其检测对于这些 DNN 模型的广泛应用至关重要。近来，软件工程中提出了若干深度测试方法以发现 DNN 系统的漏洞，其中模型变异测试（MMT）已被成功用于检测由不同对抗攻击生成的各类对抗样本。然而，MMT 中的变异模型数量始终庞大（例如超过 100 个）且缺乏多样性（例如易被高置信度对抗样本规避），这使其在实际应用中效率较低，且在检测高置信度对抗样本方面效果较弱。在本研究中，我们提出图引导测试（GGT）用于对抗样本检测，以克服上述挑战。GGT 在图特征引导下生成剪枝模型，每个模型仅含 MMT 中变异模型约 5% 的参数，且图引导模型具有更高多样性。在 CIFAR10 和 SVHN 上的实验验证了 GGT 在有效性和效率方面均大幅优于 MMT。
引用
@article{arxiv.2107.07043,
title = {GGT: Graph-Guided Testing for Adversarial Sample Detection of Deep Neural Network},
author = {Zuohui Chen and Renxuan Wang and Jingyang Xiang and Yue Yu and Xin Xia and Shouling Ji and Qi Xuan and Xiaoniu Yang},
journal= {arXiv preprint arXiv:2107.07043},
year = {2021}
}