深度学习对机器人视觉安全吗？针对 iCub 人形机器人的对抗样本
机器学习
2017-08-24 v1 机器人学
机器学习
摘要
近年来深度神经网络已被广泛采用，在多个应用领域展现出令人瞩目的性能。然而已有研究表明，它们可以被对抗样本所欺骗，即被经过几乎不可察觉的对抗噪声修改过的图像所欺骗，这些噪声经过精心设计以误导分类。在这项工作中，我们旨在评估结合了深度学习算法的机器人视觉系统在多大程度上容易受到对抗样本的攻击，并提出了一种基于拒绝对异常输入进行分类的计算高效的对策，以减轻这种威胁。随后，我们通过直观的实证分析，更清晰地理解了深度网络的安全性属性，表明此类网络学习到的映射本质上违反了学习算法的平滑性假设。最后，我们讨论了这项工作的主要局限性，包括现实世界对抗样本的创建，并勾勒了有前景的研究方向。
引用
@article{arxiv.1708.06939,
title = {Is Deep Learning Safe for Robot Vision? Adversarial Examples against the iCub Humanoid},
author = {Marco Melis and Ambra Demontis and Battista Biggio and Gavin Brown and Giorgio Fumera and Fabio Roli},
journal= {arXiv preprint arXiv:1708.06939},
year = {2017}
}
备注
Accepted for publication at the ICCV 2017 Workshop on Vision in Practice on Autonomous Robots (ViPAR)