S-RAF：面向负责任自动驾驶的基于模拟的鲁棒性评估框架
机器人学
2024-08-19 v1 人工智能
计算机视觉与模式识别
计算机与社会
机器学习
摘要
随着人工智能技术的进步，确保人工智能驱动系统的鲁棒性和安全性已成为首要任务。然而，人工智能开发者对鲁棒性的不同看法造成了评估指标的不一致，使得对自动驾驶等安全关键和复杂人工智能系统的评估和认证变得复杂。为了应对这一挑战，我们提出了面向自动驾驶的基于模拟的鲁棒性评估框架 S-RAF。S-RAF 利用 CARLA 驾驶模拟器，在包括故障传感器、环境变化和复杂交通状况在内的多种条件下严格评估自动驾驶代理。通过量化鲁棒性及其与其他安全关键因素（如碳排放）的关系，S-RAF 帮助开发者和利益相关者构建安全且负责任的驾驶代理，并简化安全认证流程。此外，S-RAF 提供了显著的优势，例如降低测试成本，以及探索在现实世界中测试可能不安全的边缘情况的能力。该框架的代码可在此处获取：https://github.com/cognitive-robots/rai-leaderboard
引用
@article{arxiv.2408.08584,
title = {S-RAF: A Simulation-Based Robustness Assessment Framework for Responsible Autonomous Driving},
author = {Daniel Omeiza and Pratik Somaiya and Jo-Ann Pattinson and Carolyn Ten-Holter and Jack Stilgoe and Marina Jirotka and Lars Kunze},
journal= {arXiv preprint arXiv:2408.08584},
year = {2024}
}