面向对抗机器学习研究的合成数据集生成
计算机视觉与模式识别
2022-07-25 v1 人工智能
机器学习
摘要
现有的对抗样本研究侧重于在已有自然图像数据集上叠加数字注入的扰动。这种对抗样本的构建方式并不现实，因为由于传感与环境效应，攻击者在现实世界中部署此类攻击可能困难甚至不可能。为了更好地理解针对信息物理系统的对抗样本，我们提出通过仿真来近似现实世界。本文描述了我们的合成数据集生成工具，该工具能够可扩展地收集带有现实对抗样本的此类合成数据集。我们使用 CARLA 模拟器收集了这样一个数据集，并展示了经历与真实世界图像相同环境变换与处理的仿真攻击。我们的工具已被用于收集数据集以帮助评估对抗样本的有效性，可在 https://github.com/carla-simulator/carla/pull/4992 获取。
引用
@article{arxiv.2207.10719,
title = {Synthetic Dataset Generation for Adversarial Machine Learning Research},
author = {Xiruo Liu and Shibani Singh and Cory Cornelius and Colin Busho and Mike Tan and Anindya Paul and Jason Martin},
journal= {arXiv preprint arXiv:2207.10719},
year = {2022}
}