身份验证：利用对抗性引导扩散模型识别自动驾驶车辆感知系统中罕见的失效模式
人工智能
2025-04-25 v1 计算机视觉与模式识别
机器学习
机器人学
摘要
自动驾驶车辆 (AV) 依赖人工智能 (AI) 准确检测物体并解释其周围环境。然而，即使使用数百万英里的真实世界数据进行训练，AV 也常常无法检测罕见失效模式 (RFMs)。RFMs 的问题常被称为“尾部挑战”，由于数据分布包括许多非常少见的实例。本文提出了一种新方法，利用先进的生成式和可解释 AI 技术来帮助理解 RFMs。我们的 methods 可与下游模型训练和测试结合使用，以增强 AV 的鲁棒性和可靠性。我们提取感兴趣对象（例如汽车）的分割掩码并将其反转以创建环境掩码。这些掩码结合精心制作的文本提示输入到自定义扩散模型中。我们利用稳定扩散填充模型受对抗噪声优化驱动，以生成包含多样化环境的图像，这些环境旨在规避物体检测模型，暴露 AI 系统中的漏洞。最后，我们产生描述生成的 RFMs 的自然语言描述，可指导开发人员和政策制定者改进 AV 系统的安全性和可靠性。
引用
@article{arxiv.2504.17179,
title = {AUTHENTICATION: Identifying Rare Failure Modes in Autonomous Vehicle Perception Systems using Adversarially Guided Diffusion Models},
author = {Mohammad Zarei and Melanie A Jutras and Eliana Evans and Mike Tan and Omid Aaramoon},
journal= {arXiv preprint arXiv:2504.17179},
year = {2025}
}
备注
8 pages, 10 figures. Accepted to IEEE Conference on Artificial Intelligence (CAI), 2025