地毯式补丁：无需常规条件的深度网络攻击
计算机视觉与模式识别
2022-12-13 v1 密码学与安全
机器学习
摘要
尽管深度网络已显示出对规避攻击的脆弱性，此类攻击通常具有不切实际的要求。近期文献讨论了去除或保留其中部分要求的可能性。本文通过引入一种几乎无任何要求的地毯式补丁攻击，对这类文献作出贡献。该攻击针对特征表示，无需知晓网络任务。它在不知晓底层任务分别为分类、检测或语义分割的情况下，降低了 ImageNet 上的准确率、Pascal VOC 上的 mAP 以及 Cityscapes 上的 IoU。除该攻击引发的潜在安全问题外，地毯式攻击的影响还突显了深度网络层动态的一些有趣性质。
引用
@article{arxiv.2212.05827,
title = {Carpet-bombing patch: attacking a deep network without usual requirements},
author = {Pol Labarbarie and Adrien Chan-Hon-Tong and Stéphane Herbin and Milad Leyli-Abadi},
journal= {arXiv preprint arXiv:2212.05827},
year = {2022}
}