补丁攻击不变性：补丁攻击对三维姿态的敏感度如何
计算机视觉与模式识别
2021-08-17 v1 人工智能
机器学习
摘要
基于扰动的攻击虽无法在物理上实现，却一直是对抗机器学习（ML）研究的主要重点。相比之下，基于补丁的攻击可在物理上实现，但多数工作聚焦于二维领域，近期才开始涉足三维。刻画补丁攻击的鲁棒性属性及其对三维姿态的不变性十分重要，却尚未充分阐明，本文即以此为重点。为此，本文作出若干贡献：A）我们提出一种称为变换平均攻击成功率（mAST）的新指标，用于评估补丁攻击的鲁棒性与不变性；B）我们系统评估了补丁攻击在不同条件下对三维位置与朝向的鲁棒性；特别地，我们进行了敏感性分析，对攻击有效性随补丁相对于相机三维姿态（旋转、平移）的变化提供了重要定性见解，并给出了补丁攻击三维不变性的一些性质；C）我们得出若干新颖定性结论，包括：1）我们证明对某些三维变换（即旋转与逼近）而言，扩大训练分布支撑范围会在测试时提升全范围内补丁成功率。2）我们针对依赖于离面旋转角程度的补丁攻击有效性基本截止极限的存在提供了新见解。这些发现应共同指导未来三维补丁攻击与防御的设计。
引用
@article{arxiv.2108.07229,
title = {Patch Attack Invariance: How Sensitive are Patch Attacks to 3D Pose?},
author = {Max Lennon and Nathan Drenkow and Philippe Burlina},
journal= {arXiv preprint arXiv:2108.07229},
year = {2021}
}