针对视觉目标跟踪的少样本后门攻击
计算机视觉与模式识别
2022-05-05 v2 人工智能
密码学与安全
机器学习
摘要
视觉目标跟踪（VOT）已广泛应用于自动驾驶和智能监控系统等关键任务场景。在当前实践中，第三方资源（如数据集、骨干网络和训练平台）常被用于训练高性能 VOT 模型。尽管这些资源带来了一定便利，但也给 VOT 模型引入了新的安全威胁。本文揭示了这样一种威胁：攻击者可通过篡改训练过程，轻易地将隐藏后门植入 VOT 模型。具体而言，我们提出了一种简单而有效的少样本后门攻击（FSBA），其交替优化两种损失：1）定义在隐藏特征空间中的特征损失（feature loss）；2）标准跟踪损失（tracking loss）。我们表明，一旦通过我们的 FSBA 将后门嵌入目标模型，即使触发器（trigger）仅出现在一帧或少数几帧中，也能诱使模型丢失对特定目标的跟踪。我们在数字与物理世界两种设定下检验了攻击，表明其可显著降低最先进 VOT 跟踪器的性能。我们还表明，我们的攻击对潜在防御具有抗性，凸显了 VOT 模型对潜在后门攻击的脆弱性。
引用
@article{arxiv.2201.13178,
title = {Few-Shot Backdoor Attacks on Visual Object Tracking},
author = {Yiming Li and Haoxiang Zhong and Xingjun Ma and Yong Jiang and Shu-Tao Xia},
journal= {arXiv preprint arXiv:2201.13178},
year = {2022}
}
备注
This work is accepted by the ICLR 2022. The first two authors contributed equally to this work. In this version, we fix some typos and errors contained in the last one. 21 pages