gRoMA：一种深度神经网络全局鲁棒性度量工具
机器学习
2023-12-29 v3 人工智能
摘要
深度神经网络（DNN）处于前沿技术的最前沿，已在多种复杂任务中取得卓越性能。然而，由于对抗性输入的威胁——可能导致 DNN 犯下严重错误的输入扰动，其在安全关键系统（如航空航天或汽车领域）中的集成带来了重大挑战。多项研究表明，即便现代 DNN 也易受对抗性输入影响，因此必须度量并缓解该风险，以允许 DNN 在关键场景内部署。在此，我们提出 gRoMA（全局鲁棒性度量与评估），一种实现概率方法以度量 DNN 全局类别鲁棒性的创新且可扩展的工具。具体而言，gRoMA 度量针对特定输出类别遭遇对抗性输入的概率。我们的工具作用于预训练的黑盒分类 DNN，并生成属于感兴趣输出类别的输入样本。它度量 DNN 在这些输入周围的对抗性输入敏感性，并聚合结果以推断 DNN 整体的全局类别鲁棒性，直至某个小的有界统计误差。我们在 CIFAR10 数据集上的流行 Densenet DNN 模型上评估了我们的工具。结果揭示了不同输出类别鲁棒性上的显著差距。该实验证明了我们方法的实用性、可扩展性及其在相关关键系统中部署 DNN 的潜力。
引用
@article{arxiv.2301.02288,
title = {gRoMA: a Tool for Measuring the Global Robustness of Deep Neural Networks},
author = {Natan Levy and Raz Yerushalmi and Guy Katz},
journal= {arXiv preprint arXiv:2301.02288},
year = {2023}
}
备注
4 pages, 1 figure