训练兼具对抗性与安全性的智能体以表征高级别自动驾驶车辆的安全性能
机器人学
2024-02-05 v1
摘要
本文聚焦于黑箱高级别自动驾驶车辆（HAV）的安全性能测试与表征。现有测试方法通常通过将HAV部署到特定测试环境中来获取测试结果。此类测试环境可能涉及由其他交通参与者呈现的各种被动给定的测试策略，例如（i）从人类驾驶员学习到的自然驾驶策略，（ii）从真实世界驾驶数据中提取的具体场景，以及（iii）专注于强制发生安全关键事件的基于模型或数据驱动的对抗性测试方法。HAV的安全性能进一步通过使用特定选定度量（如观测到的碰撞风险）分析获得的测试结果来表征。上述测试实践存在安全关键事件稀缺、运行设计域（ODD）覆盖有限或偏向长尾不安全案例的问题。本文提出了一种新颖且信息丰富的测试策略，区别于这些现有实践。该提议的灵感源于一种直觉：一个相对更安全的HAV驾驶策略将允许交通车辆展现出更高水平的激进性，以达到某一固定的整体安全结果水平。人们可以具体表征这样一种HAV与交通的交互策略，并将其用作HAV的安全性能指标。在所提出的测试方案下，HAV在其完整的ODD下进行评估，其奖励函数代表了在生成安全关键事件时安全性与对抗性之间的权衡。所提出的方法在不同运行设计域下的多种HAV设计仿真中得到了验证。
引用
@article{arxiv.2402.01576,
title = {Training Adversarial yet Safe Agent to Characterize Safety Performance of Highly Automated Vehicles},
author = {Minghao Zhu and Anmol Sidhu and Keith A. Redmill},
journal= {arXiv preprint arXiv:2402.01576},
year = {2024}
}