面向语义分割的影响者后门攻击
计算机视觉与模式识别
2024-04-18 v5
摘要
当少量 poisoned 样本被注入深度神经网络的训练数据集时，该网络可能在推理期间表现出恶意行为，这对现实应用构成潜在威胁。尽管在分类任务中已被深入研究，针对语义分割的后门攻击在很大程度上被忽视。与分类不同，语义分割旨在对给定图像中的每个像素进行分类。在本工作中，我们探索对分割模型的后门攻击，通过在推理时于非受害像素上注入特定触发器，使受害类的所有像素被误分类，这被称为影响者后门攻击（IBA）。IBA 期望在每次推理中保持非受害像素的分类精度并误导所有受害像素的分类，并可轻易应用于现实场景。基于分割模型的上下文聚合能力，我们提出了一种简单而有效的近邻触发器注入策略。我们还引入了一种创新的像素随机标注策略，即使触发器远离受害像素也能保持最优性能。我们广泛的实验揭示，当前分割模型确实遭受后门攻击，证明了 IBA 的现实适用性，并表明我们提出的技术可进一步提升攻击性能。
引用
@article{arxiv.2303.12054,
title = {Influencer Backdoor Attack on Semantic Segmentation},
author = {Haoheng Lan and Jindong Gu and Philip Torr and Hengshuang Zhao},
journal= {arXiv preprint arXiv:2303.12054},
year = {2024}
}