针对单目姿态估计的对抗攻击
计算机视觉与模式识别
2023-02-03 v1 人工智能
摘要
深度学习的进展使得计算机视觉取得稳步进步,在目标检测和语义分割等任务上的精度得到提升。然而,深度神经网络易受对抗攻击,这对可靠部署提出了挑战。对于机器人和高级驾驶辅助系统中的三维场景理解,两个重要任务是单目深度与姿态估计,通常以无监督方式共同学习。尽管已有研究评估对抗攻击对单目深度估计的影响,但针对姿态估计的对抗扰动尚缺乏系统性展示与分析。我们展示不可感知的加性扰动如何不仅改变预测以增大轨迹漂移,还能灾难性地改变其几何结构。我们还研究了针对单目深度与姿态估计网络的对抗扰动之间的关系,以及扰动向具有不同架构和损失的其它网络的可迁移性。我们的实验表明,生成的扰动导致相对旋转与平移预测出现显著误差,并阐明了网络的脆弱性。
引用
@article{arxiv.2207.07032,
title = {Adversarial Attacks on Monocular Pose Estimation},
author = {Hemang Chawla and Arnav Varma and Elahe Arani and Bahram Zonooz},
journal= {arXiv preprint arXiv:2207.07032},
year = {2023}
}
备注
Accepted at the 2022 IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS 2022)