足式机器人的对抗性关节联合攻击
机器人学
2022-11-22 v1 人工智能
摘要
我们研究针对由深度强化学习训练的足式机器人关节执行器的对抗性攻击。对关节攻击的脆弱性会显著影响足式机器人的安全性与鲁棒性。在本研究中，我们证明对执行器扭矩控制信号的对抗性扰动可显著降低奖励并导致机器人行走失稳。为寻找对抗性扭矩扰动，我们开发了黑盒对抗攻击，其中 adversary 无法访问由深度强化学习训练的神经网络。该黑盒攻击可应用于足式机器人，而与深度强化学习的架构和算法无关。我们采用三种搜索方法用于黑盒对抗攻击：随机搜索、差分进化与数值梯度下降方法。在使用 OpenAI Gym 环境中的四足机器人 Ant-v2 与双足机器人 Humanoid-v2 的实验中，我们发现差分进化能在三种方法中高效找到最强的扭矩扰动。此外，我们认识到四足机器人 Ant-v2 易受对抗性扰动影响，而双足机器人 Humanoid-v2 对扰动具有鲁棒性。因此，关节攻击可用于足式机器人行走失稳的主动诊断。
引用
@article{arxiv.2205.10098,
title = {Adversarial joint attacks on legged robots},
author = {Takuto Otomo and Hiroshi Kera and Kazuhiko Kawamoto},
journal= {arXiv preprint arXiv:2205.10098},
year = {2022}
}
备注
6 pages, 8 figures