受攻击下的随机平滑：实践中表现如何？
密码学与安全
2022-05-02 v1 人工智能
机器学习
摘要
随机平滑是近期备受推崇的用于认证任意分类器鲁棒性的方法。尽管它确实提供了针对对抗攻击的理论鲁棒性，但当前分类器的维度必然使其在实践中应用蒙特卡洛方法。本文对随机平滑作为防御手段抵御最先进的黑盒攻击的有效性提出质疑。这是一个新颖的视角，因为以往研究将认证视为不容置疑的保证。我们首先形式化地指出理论认证与对分类器攻击实践之间的错位。随后我们对作为防御的随机平滑实施攻击。我们的主要观察是，在获得高认证鲁棒性，或是在保持分类器精度的同时击败黑盒攻击时，随机平滑（RS）的设置存在重大不匹配。
引用
@article{arxiv.2204.14187,
title = {Randomized Smoothing under Attack: How Good is it in Pratice?},
author = {Thibault Maho and Teddy Furon and Erwan Le Merrer},
journal= {arXiv preprint arXiv:2204.14187},
year = {2022}
}
备注
ICASSP 2022