自然色彩欺骗:面向提升黑盒无限制攻击
计算机视觉与模式识别
2022-10-06 v1 人工智能
摘要
无限制色彩攻击通过操纵图像中语义有意义的颜色,已显示出其在欺骗人眼和深度神经网络方面的隐蔽性与成功率。然而,现有工作通常牺牲无约束设定的灵活性以确保对抗样本的自然性,导致这些方法的黑盒攻击性能受限。为在不损害图像质量的前提下提升对抗样本的可迁移性,我们提出一种新颖的自然色彩欺骗(NCF),其由从公开数据集中采样的真实色彩分布引导,并通过我们的邻域搜索与初始化重置进行优化。通过大量实验与可视化,我们令人信服地证明了所提方法的有效性。值得注意的是,平均而言,结果表明我们的 NCF 在欺骗正常训练模型方面优于最先进方法 15.0%32.9%,在规避防御方法方面优于 10.0%25.3%。我们的代码见 https://github.com/ylhz/Natural-Color-Fool。
引用
@article{arxiv.2210.02041,
title = {Natural Color Fool: Towards Boosting Black-box Unrestricted Attacks},
author = {Shengming Yuan and Qilong Zhang and Lianli Gao and Yaya Cheng and Jingkuan Song},
journal= {arXiv preprint arXiv:2210.02041},
year = {2022}
}
备注
NeurIPS 2022