关于机器人的对抗性基于场景的安全测试：可比性与最优攻击性
机器人学
2023-05-30 v2 系统与控制
系统与控制
摘要
本文研究黑盒安全测试配置中基于场景的安全测试算法类。对于具有相同状态-动作集覆盖但采样分布不同的算法，通常认为优先探索高风险状态-动作能带来更好的采样效率。我们的研究通过引入一个不可能性定理质疑上述直觉，该定理可证明地表明所有具有上述差异的安全测试算法以相同的期望采样效率表现相当。此外，对于覆盖不同状态-动作集的测试算法，采样效率准则不再适用，因为不同算法不一定收敛到相同的终止条件。我们随后基于几乎安全集概念提出了一个测试攻击性定义，以及一种无偏且高效的算法来比较测试算法间的攻击性。还给出了双足运动控制器和车辆决策模块安全测试的实证观察，以支持所提出的理论启示与方法。
引用
@article{arxiv.2209.09879,
title = {On the Adversarial Scenario-based Safety Testing of Robots: the Comparability and Optimal Aggressiveness},
author = {Bowen Weng and Guillermo A. Castillo and Wei Zhang and Ayonga Hereid},
journal= {arXiv preprint arXiv:2209.09879},
year = {2023}
}