一致性攻击：具身视觉导航上的通用对抗扰动
机器学习
2025-05-20 v4 密码学与安全
计算机视觉与模式识别
摘要
耦合深度神经网络的具身视觉导航智能体已引起越来越多的关注。然而，深度神经网络已被证明易受恶意对抗噪声的影响，这可能潜在导致具身视觉导航中的灾难性失败。在不同对抗噪声中，通用对抗扰动（UAP），即施加于智能体每一输入帧的与图像无关的恒定扰动，在具身视觉导航中起着关键作用，因为它们在攻击时计算高效且实际可用。然而，现有 UAP 方法忽略了具身视觉导航的系统动力学，可能并非最优。为将 UAP 扩展到序列决策设置，我们将通用噪声 下的扰动环境公式化为 -扰动马尔可夫决策过程（-MDP）。基于该公式，我们分析了 -MDP 的性质，并提出了两种新颖的一致性攻击方法，称为 Reward UAP 和 Trajectory UAP，用于攻击具身智能体，其考虑了 MDP 的动力学并通过估计扰动分布与扰动 Q 函数来计算通用噪声。对于各种受害模型，我们的一致性攻击能在 Habitat 的 PointGoal 任务中，于不同数据集与不同场景下导致其性能显著下降。大量实验结果表明，将具身视觉导航方法应用于现实世界存在严重的潜在风险。
引用
@article{arxiv.2206.05751,
title = {Consistent Attack: Universal Adversarial Perturbation on Embodied Vision Navigation},
author = {Chengyang Ying and You Qiaoben and Xinning Zhou and Hang Su and Wenbo Ding and Jianyong Ai},
journal= {arXiv preprint arXiv:2206.05751},
year = {2025}
}