自动驾驶中目标检测器的实时增量式解释
计算机视觉与模式识别
2025-03-10 v2 人工智能
摘要
目标检测器广泛应用于自动驾驶等安全关键型实时应用。可解释性对于安全关键型应用尤为重要，并且由于目标检测器的多样性和通常的专有性质，需要黑盒可解释性工具。然而，现有用于AI模型的黑盒可解释性工具依赖于多次模型调用，使其无法用于实时场景。在本文中，我们介绍了IncX，一种用于目标检测器实时黑盒可解释性的算法和工具。该算法基于显著性图的线性变换，生成充分的解释。我们在四个广泛使用的自动驾驶视频数据集上评估了我们的实现，并证明IncX的解释在质量上与最先进方法相当，且计算速度比最先进方法快两个数量级，使其可用于实时场景。
引用
@article{arxiv.2408.11963,
title = {Real-Time Incremental Explanations for Object Detectors in Autonomous Driving},
author = {Santiago Calderón-Peña and Hana Chockler and David A. Kelly},
journal= {arXiv preprint arXiv:2408.11963},
year = {2025}
}