迁移学习下对抗鲁棒性的实证评估
机器学习
2019-06-11 v4 计算机视觉与模式识别
机器学习
摘要
在这项工作中，我们在从在 CIFAR 100 上训练的源网络到在 CIFAR 10 上训练的目标网络的迁移学习背景下评估对抗鲁棒性。具体而言，我们研究了在源网络和目标网络中使用鲁棒优化的效果。这使我们能够识别成功保留对抗防御的迁移学习策略，并揭示潜在的漏洞。我们研究了通过快速梯度符号方法（FGSM）及其迭代替代方法（PGD）学习的特征在三种不同迁移学习策略下针对黑盒和白盒攻击保持其防御属性的程度。我们发现，在源任务训练期间使用 PGD 样本会产生更易迁移的更通用鲁棒特征。此外，在成功迁移下，它比合适的基线在白盒 PGD 攻击下实现了高 5.2% 的准确率。总体而言，我们的实证评估提供了关于迁移学习下的对抗鲁棒性可泛化程度的洞见。
引用
@article{arxiv.1905.02675,
title = {An Empirical Evaluation of Adversarial Robustness under Transfer Learning},
author = {Todor Davchev and Timos Korres and Stathi Fotiadis and Nick Antonopoulos and Subramanian Ramamoorthy},
journal= {arXiv preprint arXiv:1905.02675},
year = {2019}
}