针对变化物理对象的通用定向数据投毒
计算机视觉与模式识别
2025-03-27 v3
摘要
定向数据投毒 (TDP) 旨在通过扰动训练数据的子集来破坏模型对特定测试目标的预测。在现有 TDP 研究中,主要关注一种过于理想的威胁模型:在投毒和推理阶段均使用相同的目标图像样本。然而，在现实世界中,目标物体常因视角、背景和光照条件等物理设置的变化而呈现复杂变体。本文首次探讨 TDP 在实际场景中的威胁,研究其在不同物理条件下的通用性。我们观察到,仅优化梯度方向(如最佳先前 TDP 方法所采用)实现的泛化能力有限。为此,我们提出同时优化梯度方向和幅度进行更具通用性的梯度匹配,从而实现更高的投毒成功率。例如,本方法在针对多视角汽车的 CIFAR-10 图像上,相较于最先进方法实现了 19.49% 的提升。
引用
@article{arxiv.2412.03907,
title = {ONER: Online Experience Replay for Incremental Anomaly Detection},
author = {Yizhou Jin and Jiahui Zhu and Guodong Wang and Shiwei Li and Jinjin Zhang and Xinyue Liu and Qingjie Liu and Yunhong Wang},
journal= {arXiv preprint arXiv:2412.03907},
year = {2025}
}