利用 Jacobian 正则化提升 DNN 对抗攻击的鲁棒性
机器学习
2019-05-29 v4 密码学与安全
计算机视觉与模式识别
机器学习
摘要
深度神经网络近期在包括视觉和语音处理任务在内的各种应用中展现了卓越的性能。然而，尽管其能以如此高的精度执行这些任务，研究表明它们极易受到对抗攻击：输入的微小变化会导致网络以高置信度产生错误。这一现象暴露了这些网络及其良好泛化能力的固有缺陷。因此，提升网络对对抗攻击的鲁棒性是网络训练中的重要挑战，并已引发广泛研究。在本工作中，我们提出一种理论启发的新方法来提升网络的鲁棒性。我们的方法利用网络 Jacobian 矩阵的 Frobenius 范数进行正则化，该正则化作为后处理步骤在常规训练完成后应用。我们通过实验证明，该方法能增强鲁棒性，且对原始网络的精度影响极小。
引用
@article{arxiv.1803.08680,
title = {Improving DNN Robustness to Adversarial Attacks using Jacobian Regularization},
author = {Daniel Jakubovitz and Raja Giryes},
journal= {arXiv preprint arXiv:1803.08680},
year = {2019}
}
备注
ECCV 2018 Conference Paper