超类对抗攻击
计算机视觉与模式识别
2022-07-15 v2
摘要
对抗攻击以往仅关注改变分类器的预测，但其危险性很大程度上取决于类别被误认的方式。例如，当自动驾驶系统将波斯猫误认为暹罗猫时，几乎不成问题。但若将猫误认为120km/h最低限速标志，则可能引发严重问题。作为迈向更具威胁性对抗攻击的阶梯，我们考虑超类对抗攻击，其导致细类乃至超类均被误分类。我们对超类对抗攻击（一种已有方法与19种新方法）在准确率、速度与稳定性方面进行了首次综合分析，并确定了若干实现更优性能的策略。尽管本研究针对超类误分类，所得发现可应用于涉及多类的其他问题设定，如top-k与多标签分类攻击。
引用
@article{arxiv.2205.14629,
title = {Superclass Adversarial Attack},
author = {Soichiro Kumano and Hiroshi Kera and Toshihiko Yamasaki},
journal= {arXiv preprint arXiv:2205.14629},
year = {2022}
}
备注
ICML Workshop 2022 on Adversarial Machine Learning Frontiers