通过测试时变换集成增强对抗鲁棒性
机器学习
2021-07-30 v1 密码学与安全
计算机视觉与模式识别
摘要
深度学习模型容易被称为对抗攻击的不可感知扰动所欺骗。在这项工作中，我们研究为模型配备测试时变换集成（TTE）如何作为针对此类攻击的可靠防御。虽然在训练与测试时均对输入数据进行变换可提升模型性能已是已知，但其对对抗鲁棒性的影响尚未被研究。在此，我们对以广泛使用的图像变换形式出现的 TTE 在对对抗鲁棒性上的影响进行了全面的实证研究。我们表明，TTE 持续地提升模型针对多种强力攻击的鲁棒性，且无需任何重新训练，并且该提升在干净样本上的准确率几乎无折损。最后，我们表明 TTE 的益处甚至迁移到认证鲁棒性领域，其中 TTE 提供了可观且一致的改进。
引用
@article{arxiv.2107.14110,
title = {Enhancing Adversarial Robustness via Test-time Transformation Ensembling},
author = {Juan C. Pérez and Motasem Alfarra and Guillaume Jeanneret and Laura Rueda and Ali Thabet and Bernard Ghanem and Pablo Arbeláez},
journal= {arXiv preprint arXiv:2107.14110},
year = {2021}
}