扩散策略攻击者：针对扩散模型策略的对抗攻击
计算机视觉与模式识别
2024-05-31 v1
摘要
扩散模型 (DM) 已成为行为克隆 (BC) 的有前景方法。基于 DM 的扩散策略 (DP) 将 BC 性能提升至新高度，展现出在各种任务中稳健的有效性，同时具备固有的灵活性和易于实现。尽管 DP 正在日益被采纳作为策略生成的基础，但其安全性问题仍鲜有探讨。虽然以前的尝试针对深度策略网络进行攻击，但 DP 使用扩散模型作为策略网络，由于其链式结构和随机注入，无法使用先前的方法进行攻击。本文提出了对 DP 安全性问题的全面检视，通过引入离线攻击、在线攻击、全局攻击和局部攻击等对抗情景，提出了 DP-Attacker，一套能够在上述所有情境下制造有效对抗攻击的算法套件。我们对各种操作任务中预训练的扩散策略进行攻击。通过大量实验，我们展示 DP-Attacker 能够显著降低 DP 在所有情境下的成功率。特别是在离线情境中，DP-Attacker 可生成适用于所有帧的高度可迁移扰动。此外，我们展示了创建对抗性物理贴片的能力，这些贴片被应用于环境后能有效地欺骗模型。视频结果已上传至：https://sites.google.com/view/diffusion-policy-attacker。
引用
@article{arxiv.2405.19424,
title = {Diffusion Policy Attacker: Crafting Adversarial Attacks for Diffusion-based Policies},
author = {Yipu Chen and Haotian Xue and Yongxin Chen},
journal= {arXiv preprint arXiv:2405.19424},
year = {2024}
}