一体两面：面向迁移学习的白盒与黑盒攻击
机器学习
2020-08-26 v1 机器学习
摘要
迁移学习已成为在目标域标注数据有限时训练深度学习模型的常见做法。另一方面，深度模型易受对抗攻击。尽管迁移学习已被广泛应用，其对模型鲁棒性的影响尚不清楚。为弄清此问题，我们进行了广泛的实证评估，表明微调在白盒 FGSM 攻击下有效增强了模型鲁棒性。我们还提出了一种针对迁移学习模型的黑盒攻击方法，该方法利用源模型生成的对抗样本攻击目标模型。为系统度量白盒与黑盒攻击的影响，我们提出了一种新指标来评估源模型生成的对抗样本对目标模型的可迁移程度。实证结果表明，与使用独立训练的两个网络相比，采用微调时对抗样本的可迁移性更强。
引用
@article{arxiv.2008.11089,
title = {Two Sides of the Same Coin: White-box and Black-box Attacks for Transfer Learning},
author = {Yinghua Zhang and Yangqiu Song and Jian Liang and Kun Bai and Qiang Yang},
journal= {arXiv preprint arXiv:2008.11089},
year = {2020}
}