Carla 模拟器中自动驾驶智能体的攻击与故障注入——经验报告

机器学习应用被公认为自动驾驶的基础，因为它们是大多数驾驶任务的赋能技术。然而，将训练好的智能体纳入汽车系统会使车辆面临新颖的攻击与故障，从而可能对驾驶任务造成安全威胁。在本文中，我们报告了在驾驶模拟器中运行的自动驾驶智能体上注入对抗性攻击与软件故障的实验活动。我们表明，注入到训练智能体中的对抗性攻击与故障可导致错误决策并严重危及安全。本文展示了一种基于开源模拟器与工具的易复现可行方法，其结果清晰地表明了对保护措施与广泛测试活动的需求。