面向人群计数模型的投毒后门攻击

人群计数是一项回归任务，用于估计场景图像中的人数，在视频监控、交通监测与流量控制等一系列安全关键应用中发挥着至关重要的作用。本文研究了基于深度学习的人群计数模型对后门攻击（深度学习的一大安全威胁）的脆弱性。后门攻击通过数据投毒将后门触发器植入目标模型，从而在测试时控制模型的预测。与现有大多数后门攻击所基于并测试的图像分类模型不同，人群计数模型是输出多维密度图的回归模型，因此需要不同的操纵技术。本文提出两种新颖的密度操纵后门攻击（DMBA$^{-}$ 与 DMBA$^{+}$），以攻击模型产生任意偏大或偏小的密度估计。实验结果表明我们的 DMBA 攻击在五种经典人群计数模型与四类数据集上的有效性。我们还深入分析了后门攻击人群计数模型所面临的独特挑战，并揭示了有效攻击的两个关键要素：1）完整且密集的触发器；2）对真实计数或密度图的操纵。我们的工作有助于评估人群计数模型对潜在后门攻击的脆弱性。