通过微小扰动操纵神经路径规划器

数据驱动的神经路径规划器在机器人领域正吸引着越来越多的兴趣。然而，其神经网络组件通常以黑盒形式出现，掩盖了其底层的决策过程。这种黑盒性质使其面临被植入隐藏恶意行为而遭到破坏的风险。例如，攻击者可能会隐藏一些行为，当这些行为被触发时，会通过引导配送机器人前往特定（尽管是错误的）目的地、将其困在预定义区域，或导致其在某区域反复绕行从而造成不必要的能量消耗来劫持该机器人。在本文中，我们提出了一种新方法，用于指定并向神经路径规划器注入一系列被称为后门的隐藏恶意行为。我们的方法提供了一种简洁而灵活的方式来定义这些行为，并且我们表明，隐藏行为可以通过微小扰动（例如，插入一个微小的不可察觉物体）来触发，这些扰动仍能显著破坏其完整性。我们还讨论了旨在减轻此类风险的识别这些后门的潜在技术。我们在基于采样和基于搜索的神经路径规划器上展示了我们的方法。