从图像与扰动的相互影响理解对抗样本
计算机视觉与模式识别
2020-07-14 v1 机器学习
摘要
大量工作探讨了对抗样本存在的原因，但对此解释尚未达成共识。我们提出将深度神经网络(DNN)的 logits 视为一种特征表示向量，并利用它们基于皮尔逊相关系数(PCC)分析两个独立输入之间的相互影响。我们利用该向量表示，通过解耦干净图像与对抗扰动来理解对抗样本，并分析它们之间的相互影响。我们的结果提出了一种关于图像与通用扰动之间关系的新视角：通用扰动包含主导特征，而图像对它们而言表现得如同噪声。这一特征视角引出了一种利用随机源图像生成定向通用对抗扰动的新方法。我们首次在不利用原始训练数据的情况下实现了具有挑战性的定向通用攻击任务。我们使用代理数据集的方法取得了与利用原始训练数据集的最先进基线相当的 performance。
引用
@article{arxiv.2007.06189,
title = {Understanding Adversarial Examples from the Mutual Influence of Images and Perturbations},
author = {Chaoning Zhang and Philipp Benz and Tooba Imtiaz and In-So Kweon},
journal= {arXiv preprint arXiv:2007.06189},
year = {2020}
}
备注
Accepted at CVPR 2020