面向神经网络的精确且通用的鲁棒性认证
密码学与安全
2023-06-13 v1 计算机视觉与模式识别
机器学习
摘要
神经网络(NN)鲁棒性认证的目标是判断当输入发生扰动时神经网络是否会改变其预测。尽管大多数认证研究针对图像考察像素级或少数几何级与模糊操作,本文提出了一种新颖的框架 GCERT,它在精确且统一的形式下对多种语义级图像扰动认证 NN 鲁棒性。我们将一组全面的语义级图像扰动统一表示为生成模型潜空间中的某些方向。我们识别出两个关键性质——独立性与连续性,它们将潜空间转化为用于认证的精确且便于分析的输入空间表示。GCERT 可平滑地集成于事实上的完全、不完全或定量认证框架。凭借其精确的输入空间表示,GCERT 首次以适中代价在天气滤镜、风格迁移与感知变化(如睁眼/闭眼)等多种语义级输入扰动下实现完全的 NN 鲁棒性认证。我们表明 GCERT 能够在自动驾驶等多种常见及安全敏感场景中认证 NN 鲁棒性。
引用
@article{arxiv.2306.06747,
title = {Precise and Generalized Robustness Certification for Neural Networks},
author = {Yuanyuan Yuan and Shuai Wang and Zhendong Su},
journal= {arXiv preprint arXiv:2306.06747},
year = {2023}
}
备注
The extended version of a paper to appear in the Proceedings of the 32nd USENIX Security Symposium, 2023, (USENIX Security '23), 19 pages