可证明的几何变换防御

Rem Yang; Jacob Laurel; Sasa Misailovic; Gagandeep Singh

可证明的几何变换防御

机器学习 2023-05-09 v3 计算机视觉与模式识别

作者: Rem Yang , Jacob Laurel , Sasa Misailovic , Gagandeep Singh

摘要

现实世界中出现的几何图像变换（如缩放和旋转）已被证明可轻易欺骗深度神经网络（DNNs）。因此，训练对这类扰动具有可证明鲁棒性的 DNNs 至关重要。然而，此前的工作均未能将针对几何变换的确定性认证鲁棒性目标纳入训练过程，因为现有验证器极其缓慢。为应对这些挑战，我们提出了首个针对确定性认证几何鲁棒性的可证明防御。我们的框架利用一种新颖的 GPU 优化验证器，其认证图像的速度比现有几何鲁棒性验证器快 60 $\times$ 至 42,600 $\times$ ，因此与现有工作不同，其速度足以用于训练。在多个数据集上，我们的结果表明，通过我们框架训练的网络持续达到最先进的确定性认证几何鲁棒性与干净准确率。此外，我们首次在自动驾驶这一具有挑战性的现实世界场景下验证了神经网络的几何鲁棒性。

关键词

可证明防御几何变换认证鲁棒性深度神经网络 GPU 优化验证器自动驾驶 SOTA

引用

@article{arxiv.2207.11177,
  title  = {Provable Defense Against Geometric Transformations},
  author = {Rem Yang and Jacob Laurel and Sasa Misailovic and Gagandeep Singh},
  journal= {arXiv preprint arXiv:2207.11177},
  year   = {2023}
}

备注

ICLR 2023 notable-top-25%

可证明的几何变换防御

摘要

关键词

引用

备注

相关论文