通过特征空间微调增强有针对性可迁移性

对抗样本因其在隐私保护和激发鲁棒神经网络方面的潜力而受到广泛研究。然而，使有针对性的对抗样本在未知模型间具有可迁移性仍然具有挑战性。本文中，为了缓解现有简单迭代攻击生成的对抗样本中常见的过拟合问题，我们提出在特征空间中对对抗样本进行微调。具体来说，从基线攻击生成的对抗样本开始，我们在源模型的中间层中鼓励有利于目标类别的特征，并抑制有利于原始类别的特征。大量实验表明，仅需少量迭代的微调即可显著且普遍地提升现有攻击的有针对性可迁移性。我们的结果还验证了简单迭代攻击可以产生与资源密集型方法（依赖额外数据训练目标特定分类器或生成器）相当甚至更好的可迁移性。代码可在 github.com/zengh5/TA_feature_FT 获取。