ALA：自然度感知的对抗性亮度攻击
计算机视觉与模式识别
2024-05-29 v3 人工智能
摘要
大多数研究者试图通过揭示并修复深度神经网络（DNN）的脆弱性来提升其鲁棒性，所用方法为专门的对抗样本。部分攻击样本具有受Lp范数限制的不易察觉扰动。然而，由于其高频特性，这些对抗样本可被去噪方法防御，且难以在物理世界中实现。为避免这些缺陷，一些工作提出了无限制攻击以获得更好的鲁棒性和实用性。令人失望的是，这些样本通常看起来不自然且会引起守卫警觉。在本文中，我们提出对抗性亮度攻击（ALA），一种关注修改图像亮度的白盒无限制对抗攻击。对人类感知至关重要的样本形状和颜色几乎不受影响。为获得高攻击成功率的对抗样本，我们提出基于图像明暗关系的无约束增强。为增强图像自然度，我们根据光照的范围和分布构造自然度感知正则化。ALA的有效性在两个流行数据集上针对不同任务（即ImageNet用于图像分类，Places-365用于场景识别）得到验证。
引用
@article{arxiv.2201.06070,
title = {ALA: Naturalness-aware Adversarial Lightness Attack},
author = {Yihao Huang and Liangru Sun and Qing Guo and Felix Juefei-Xu and Jiayi Zhu and Jincao Feng and Yang Liu and Geguang Pu},
journal= {arXiv preprint arXiv:2201.06070},
year = {2024}
}
备注
9 pages