图像分布与任务对对抗鲁棒性的影响
机器学习
2021-02-23 v1 计算机视觉与模式识别
摘要
在本文中，我们提出对曲线下面积（AUC）度量的一种改进，用于衡量模型在特定 区间 （对抗扰动强度区间）上的对抗鲁棒性，该度量在模型具有不同初始 性能时便于跨模型的无偏比较。这可用于确定模型对不同图像分布或任务（或其他变量）的对抗鲁棒性程度；和/或衡量一个模型相对于其他模型的鲁棒性。我们在 MNIST、CIFAR-10 和 Fusion 数据集（CIFAR-10 + MNIST）的模型上使用了该对抗鲁棒性度量，其中训练模型使用 LeNet、ResNet50 或全连接网络（FullyConnectedNet）架构执行数字或物体识别任务，并发现如下结果：1）CIFAR-10 模型本质上比 MNIST 模型对抗鲁棒性更差；2）模型所训练的图像分布和任务均会影响所得模型的对抗鲁棒性。3）使用不同图像分布和任务进行预训练有时会将该图像分布和任务所诱导的对抗鲁棒性迁移到所得模型中；总体而言，我们的结果表明，在给定的不同图像统计或任务（主要是物体与数字）暴露下，一个感知系统的学习表征空间相对于另一个存在显著差异。此外，即使模型系统被均衡至相同性能水平，或暴露于融合图像近似匹配的图像统计但不同任务时，这些结果仍然成立。
引用
@article{arxiv.2102.10534,
title = {The Effects of Image Distribution and Task on Adversarial Robustness},
author = {Owen Kunhardt and Arturo Deza and Tomaso Poggio},
journal= {arXiv preprint arXiv:2102.10534},
year = {2021}
}
备注
Under review at ICML 2021