GSmooth：基于广义随机平滑的语义变换认证鲁棒性
机器学习
2022-06-30 v2 人工智能
密码学与安全
计算机视觉与模式识别
摘要
随机平滑等认证防御方法在构建抵御 范数有界攻击的可靠机器学习系统方面已显示出前景。然而，现有方法不足以或无法可证明地防御语义变换，尤其是那些无闭式表达（如散焦模糊与像素化）且实践中更常见且通常无限制的变换。为填补此空白，我们提出广义随机平滑(GSmooth)，一种通过新颖的维度扩充策略来认证抵御一般语义变换鲁棒性的统一理论框架。在 GSmooth 框架下，我们提出一种可扩展算法，使用替代图像到图像网络来近似复杂变换。该替代模型为研究语义变换性质与认证鲁棒性提供了有力工具。在多个数据集上的实验结果证明了我们的方法在针对多种语义变换与损坏的鲁棒性认证方面的有效性，这是现有替代基线无法实现的。
引用
@article{arxiv.2206.04310,
title = {GSmooth: Certified Robustness against Semantic Transformations via Generalized Randomized Smoothing},
author = {Zhongkai Hao and Chengyang Ying and Yinpeng Dong and Hang Su and Jun Zhu and Jian Song},
journal= {arXiv preprint arXiv:2206.04310},
year = {2022}
}