一种基于训练的VIN对抗样本识别方法
密码学与安全
2018-10-19 v1
摘要
随着人工智能(AI)的快速发展,AI安全问题逐渐显现。大多数现有的机器学习算法可能受到对抗样本的攻击。对抗样本是一种经过轻微修改的输入样本,可导致机器学习算法给出错误结果。对抗样本对许多AI应用领域构成潜在安全威胁,尤其在机器人路径规划领域。在该领域中,对抗样本通过在正常地图上添加障碍物来阻碍算法,从而对预测路径产生多种影响。然而,目前尚无合适的方法能够自动识别它们。据我们所知,以往所有工作均采用人工观察方法来估计对抗地图的攻击结果,这十分耗时。针对现有问题,本文探索了一种可自动识别值迭代网络(Value Iteration Networks, VIN)中对抗样本的方法,该方法具有较强的泛化能力。我们分析了由对抗地图可能引发的情形。通过结合路径特征比较与路径图像分类,我们提出了一种基于训练的VIN对抗样本识别方法。我们使用对抗地图数据集对方法进行评测,结果表明相较人工观察方法,我们的方法能实现高准确度且更快速的识别。
引用
@article{arxiv.1810.08070,
title = {A Training-based Identification Approach to VIN Adversarial Examples},
author = {Yingdi Wang and Wenjia Niu and Tong Chen and Yingxiao Xiang and Jingjing Liu and Gang Li and Jiqiang Liu},
journal= {arXiv preprint arXiv:1810.08070},
year = {2018}
}