基于分区随机平滑的认证对抗鲁棒性
机器学习
2024-09-23 v1 人工智能
摘要
深度神经网络分类器的可靠应用需要具备对抗性扰动的鲁棒性证明。高斯平滑是一种广泛分析的用于证明对范数限制扰动鲁棒性的方法，其认证预测半径取决于高斯噪声的方差以及神经网络在加性高斯噪声下的预测置信水平。然而，在高维图像数据集上应用时，普通高斯平滑的认证半径可能相对较小，因为高方差的高斯噪声会显著损害图像的可见性。本文提出了像素分区随机平滑（Pixel Partitioning-based Randomized Smoothing, PPRS）方法，通过提高神经网络的置信得分来增大认证预测的鲁棒性半径。我们展示了所提出的PPRS算法在加性高斯噪声下的图像可见性得到改善。我们讨论了将PPRS应用于标准计算机视觉数据集和神经网络架构后的数值结果。我们的实验结果表明，PPRS在随机平滑场景下显著提高了认证准确率和对加性高斯噪声的预测稳定性。
引用
@article{arxiv.2409.13546,
title = {Certified Adversarial Robustness via Partition-based Randomized Smoothing},
author = {Hossein Goli and Farzan Farnia},
journal= {arXiv preprint arXiv:2409.13546},
year = {2024}
}