用于欺骗卷积神经网络的非均匀光照攻击
计算机视觉与模式识别
2024-09-06 v1
摘要
卷积神经网络（CNNs）取得了显著进展；然而，它们仍然存在易受攻击的漏洞，尤其是在面对人类可以轻易识别的微小图像扰动时。这种通常被称为“攻击”的弱点，凸显了 CNN 有限的鲁棒性，以及研究如何增强其抵御此类操纵能力的必要性。本研究引入了一种新颖的非均匀光照（NUI）攻击技术，该技术使用不同的 NUI 掩码对图像进行细微修改。在 CIFAR10、TinyImageNet 和 CalTech256 等广泛接受的数据集上进行了大量实验，重点关注使用 12 种不同 NUI 攻击模型的图像分类任务。评估了 VGG、ResNet、MobilenetV3-small 和 InceptionV3 模型对 NUI 攻击的抵御能力。结果表明，在遭受 NUI 攻击时，CNN 模型的分类准确率大幅下降，表明它们在非均匀光照下的脆弱性。为了缓解这一问题，提出了一种防御策略，将通过新的 NUI 变换生成的 NUI 攻击图像纳入训练集。结果表明，当面对受 NUI 攻击扰动的图像时，CNN 模型的性能得到了显著提升。该策略旨在增强 CNN 模型对 NUI 攻击的抵御能力。
引用
@article{arxiv.2409.03458,
title = {Non-Uniform Illumination Attack for Fooling Convolutional Neural Networks},
author = {Akshay Jain and Shiv Ram Dubey and Satish Kumar Singh and KC Santosh and Bidyut Baran Chaudhuri},
journal= {arXiv preprint arXiv:2409.03458},
year = {2024}
}