时空交通预测模型的实用对抗攻击
机器学习
2022-10-07 v1 人工智能
密码学与安全
摘要
基于机器学习的交通预测模型利用复杂的时空自相关性提供城市级交通状态的准确预测。然而，现有方法假设可靠且无偏的预测环境，而在实际中并非总是具备。本工作研究时空交通预测模型的脆弱性，并提出一种实用的对抗时空攻击框架。具体而言，不同于同时攻击所有地理分布式数据源，我们提出一种迭代梯度引导的节点显著性方法以识别随时间变化的受害节点集合。此外，我们设计了一种基于时空梯度下降的方案，在扰动约束下生成实值对抗交通状态。同时，我们从理论上证明了对抗交通预测攻击的最坏性能界。在两个真实世界数据集上的大量实验表明，所提出的两步框架在各种先进时空预测模型上可造成高达 的性能下降。值得注意的是，我们还表明使用我们所提攻击进行对抗训练可显著提升时空交通预测模型的鲁棒性。我们的代码见 \url{https://github.com/luckyfan-cs/ASTFA}。
引用
@article{arxiv.2210.02447,
title = {Practical Adversarial Attacks on Spatiotemporal Traffic Forecasting Models},
author = {Fan Liu and Hao Liu and Wenzhao Jiang},
journal= {arXiv preprint arXiv:2210.02447},
year = {2022}
}
备注
Accepted by NeurIPS 2022