FineFool：基于注意力的精细物体轮廓攻击
计算机视觉与模式识别
2018-12-06 v1 机器学习
机器学习
摘要
机器学习模型已被证明易受由攻击者精心构造以击败分类器的对抗样本所发起的对抗攻击。深度学习模型亦无法逃脱此类攻击。大多数对抗攻击方法关注成功率或扰动大小，而我们更感兴趣的是对抗扰动与图像本身之间的关系。本文提出一种基于轮廓的新型对抗攻击，名为 FineFool。FineFool 不仅在其他 SOTA 白盒攻击方面具有更高的攻击成功率和更小的扰动，因而具备更优的攻击性能，还能够通过物体轮廓上的注意力将最优对抗扰动可视化。据我们所知，FineFool 首次以可见方式将原始干净图像的关键特征与最优扰动相结合。受对抗扰动与物体轮廓之间相关性的启发，通过聚焦物体轮廓特征产生更轻微的扰动，其更不易被察觉且难以防御，尤其是存在扰动过滤与轮廓特征损失之间权衡的网路附加防御方法。与现有 SOTA 攻击相比，大量实验表明 FineFool 能够对防御性深度模型实现高效攻击。
引用
@article{arxiv.1812.01713,
title = {FineFool: Fine Object Contour Attack via Attention},
author = {Jinyin Chen and Haibin Zheng and Hui Xiong and Mengmeng Su},
journal= {arXiv preprint arXiv:1812.01713},
year = {2018}
}