针对语义图像分割的通用对抗扰动

尽管深度学习在感知任务上极为成功，但也已被证明易受输入对抗扰动的攻击。这些扰动指添加到输入上的噪声，其专门生成以欺骗系统，同时对人类近乎不可感知。更严重的是，甚至存在与输入无关的通用扰动，能在大多数输入上欺骗网络。近期工作聚焦于图像分类，而本工作提出针对语义图像分割的攻击：我们给出一种生成（通用）对抗扰动的方法，使网络输出期望的目标分割。我们通过实验表明，存在几乎不可感知的通用噪声模式，其导致任意输入产生几乎相同的预测分割。此外，我们还展示了存在通用噪声，可将目标类别（例如所有行人）从分割中移除，同时基本保持其余分割不变。