针对 ITS 应用的模型定向数据投毒攻击及其可证明收敛性
最优化与控制
2025-05-19 v2
摘要
智能系统对数据日益增长的依赖使其易受数据投毒攻击。此类攻击可通过破坏输入数据来危害机器学习或深度学习模型。以往关于数据投毒攻击的研究受限于特定假设，且对具有一般（等式和不等式）约束或缺乏可微性的学习模型关注有限。这类学习模型在实践中很常见，尤其是在涉及物理或领域知识作为特定模型约束的智能交通系统（ITS）中。受 ITS 应用启发，本文将模型定向数据投毒攻击形式化为一个具有约束下层问题的双层优化问题，旨在通过逐步修改训练数据，将模型解诱导至攻击者指定的目标解。由于基于梯度的方法无法求解此优化问题，我们提出研究模型解的利普希茨连续性性质，从而能够计算解关于数据的半导数（一种单侧方向导数）。我们利用半导数下降法求解该双层优化问题，并建立了该方法收敛到任何可达目标模型的条件。通过一个使用 SVM 进行车道变换检测的投毒攻击仿真，对该模型和求解方法进行了说明。
引用
@article{arxiv.2505.03966,
title = {Model-Targeted Data Poisoning Attacks against ITS Applications with Provable Convergence},
author = {Xin Wang and Feilong Wang and Yuan Hong and R. Tyrrell Rockafellar and Xuegang and Ban},
journal= {arXiv preprint arXiv:2505.03966},
year = {2025}
}