用于欺骗卷积神经网络的颜色通道扰动攻击及一种防御方法
计算机视觉与模式识别
2021-01-01 v1 人工智能
摘要
卷积神经网络（CNN）已成为一种非常强大的依赖于数据的分层特征提取方法，被广泛应用于若干计算机视觉问题中。CNN 自动从训练样本中学习重要的视觉特征。据观察，网络很容易对训练样本过拟合。已有若干正则化方法被提出以避免过拟合。尽管如此，网络对图像内的颜色分布敏感，而现有方法忽略了这一点。在本文中，我们通过提出一种颜色通道扰动（CCP）攻击来欺骗 CNN，从而发现了 CNN 的颜色鲁棒性问题。在 CCP 攻击中，通过用随机权重组合原始通道来创建新通道，从而生成新图像。实验在图像分类框架下广泛使用的 CIFAR10、Caltech256 和 TinyImageNet 数据集上进行。使用 VGG、ResNet 和 DenseNet 模型来测试所提攻击的影响。观察到在提出的 CCP 攻击下 CNN 的性能急剧下降。结果显示了所提简单 CCP 攻击对训练好的 CNN 模型鲁棒性的影响。结果还与现有的 CNN 欺骗方法进行比较以评估准确率下降。我们还通过将训练数据集用所提 CCP 攻击进行增广，针对该问题提出了一种初步防御机制。实验中观察到使用所提方案在 CCP 攻击下 CNN 鲁棒性方面达到了最先进的性能。代码已公开于 \url{https://github.com/jayendrakantipudi/Color-Channel-Perturbation-Attack}。
引用
@article{arxiv.2012.14456,
title = {Color Channel Perturbation Attacks for Fooling Convolutional Neural Networks and A Defense Against Such Attacks},
author = {Jayendra Kantipudi and Shiv Ram Dubey and Soumendu Chakraborty},
journal= {arXiv preprint arXiv:2012.14456},
year = {2021}
}
备注
Accepted in IEEE Transactions on Artificial Intelligence