基于随机平滑认证后门攻击鲁棒性的研究
密码学与安全
2020-07-21 v4 机器学习
摘要
后门攻击是深度神经网络(DNNs)面临的严重安全威胁。我们预见,如同对抗样本一样,后门攻击也将出现猫鼠游戏,即新的经验性防御方法被开发出来抵御后门攻击,但很快就被强大的自适应后门攻击所攻破。为防止此类猫鼠游戏,我们迈出了认证抵御后门攻击防御的第一步。具体而言,本工作研究了利用一种称为随机平滑的近期技术来认证后门攻击鲁棒性的可行性与有效性。随机平滑最初是为认证对抗样本的鲁棒性而开发的。我们将随机平滑推广以防御后门攻击。我们的结果展示了使用随机平滑认证后门攻击鲁棒性的理论可行性。然而,我们也发现现有随机平滑方法在防御后门攻击方面的有效性有限,这凸显了需要新的理论与方法来认证后门攻击鲁棒性。
引用
@article{arxiv.2002.11750,
title = {On Certifying Robustness against Backdoor Attacks via Randomized Smoothing},
author = {Binghui Wang and Xiaoyu Cao and Jinyuan jia and Neil Zhenqiang Gong},
journal= {arXiv preprint arXiv:2002.11750},
year = {2020}
}
备注
CVPR 2020 Workshop on Adversarial Machine Learning in Computer Vision, 2020. DeepMind Best Extended Abstract