诱饵与切换：自动驾驶系统的在线训练数据投毒
机器学习
2020-12-08 v2 密码学与安全
摘要
我们表明，通过控制一个预训练深度神经网络（DNN）正在其中进行在线微调的物理环境的部分， adversary（敌手）可发起微妙的数据投毒攻击，从而降低系统性能。尽管该攻击可一般性地应用于任意感知任务，我们考虑一个基于 DNN 的交通灯分类器，用于一辆在一个城市训练并在另一个城市在线微调的自动驾驶汽车。我们表明，通过注入不修改交通灯本身或真值标签的环境扰动，敌手可使深度网络在在线学习阶段学到虚假概念。攻击者可利用环境中引入的虚假概念，在运行期间导致模型精度下降；从而致使系统发生故障。
引用
@article{arxiv.2011.04065,
title = {Bait and Switch: Online Training Data Poisoning of Autonomous Driving Systems},
author = {Naman Patel and Prashanth Krishnamurthy and Siddharth Garg and Farshad Khorrami},
journal= {arXiv preprint arXiv:2011.04065},
year = {2020}
}
备注
To appear in the NeurIPS 2020 Workshop on Dataset Curation and Security