基于XAI的特征集成方法用于提升自动驾驶系统中的异常检测
人工智能
2024-10-22 v1
摘要
自动驾驶技术的快速发展为确保交通安全和可靠性带来了重大挑战。传统的自动驾驶中用于异常检测的AI模型往往是黑箱模型，难以理解和信任其决策过程。本文提出一种新颖的特征集成框架，将多种可解释AI(XAI)方法(SHAP、LIME和DALEX)与多种AI模型集成，以增强异常检测和可解释性。通过融合这些XAI方法从六种不同AI模型(决策树、随机森林、深度神经网络、K最近邻、支持向量机和AdaBoost)中识别的顶级特征，框架创建了一套稳健且全面的特征集，用于检测异常。这些特征集由我们的特征集成框架生成，经独立分类器(CatBoost、逻辑回归和LightGBM)评估，以确保无偏性能。我们在两个流行的自动驾驶数据集(VeReMi和Sensor)上评估了特征集成方法。我们的特征集成技术在准确性、鲁棒性和AI模型的透明度方面均取得改进，为更安全可信的自动驾驶系统做出了贡献。
引用
@article{arxiv.2410.15405,
title = {XAI-based Feature Ensemble for Enhanced Anomaly Detection in Autonomous Driving Systems},
author = {Sazid Nazat and Mustafa Abdallah},
journal= {arXiv preprint arXiv:2410.15405},
year = {2024}
}
备注
31 pages, 4 figures (including the subfigures)