面向深度学习交通系统后门中和的最优平滑分布探索
机器学习
2023-03-28 v1 人工智能
密码学与安全
摘要
深度强化学习（DRL）提升了自动驾驶车辆（AV）的效率，但也使其易受后门攻击，可能导致交通拥堵或碰撞。后门功能通常通过用隐蔽恶意数据污染训练数据集来植入，以在真实输入上保持高精度，同时对 adversary 选定的特定输入诱导期望（恶意）输出。当前后门防御主要聚焦于使用基于图像特征的图像分类，难以迁移至基于DRL的AV控制器的回归任务，因其输入为连续传感器数据，即AV及其周围车辆的速度与距离组合。我们提出的方法向输入添加精心设计的噪声以中和后门。该方法学习最优平滑（噪声）分布，在保持真实输入正常功能的同时中和后门。由此，所得模型有望在对后门攻击更具韧性的同时，于真实输入上保持高准确率。所提方法在基于微观交通模拟器的仿真交通系统上验证，实验结果表明平滑后的交通控制器可中和所有触发样本并维持缓解交通拥堵的性能。
引用
@article{arxiv.2303.14197,
title = {Optimal Smoothing Distribution Exploration for Backdoor Neutralization in Deep Learning-based Traffic Systems},
author = {Yue Wang and Wending Li and Michail Maniatakos and Saif Eddin Jabari},
journal= {arXiv preprint arXiv:2303.14197},
year = {2023}
}