SAFE：面向基于 DNN 的自动驾驶系统的显著性感知反事实解释
机器学习
2023-08-01 v1 人工智能
计算机科学中的逻辑
摘要
反事实（CF）解释器识别输入中足以将模型输出改变为其补集的最小修改。换言之，CF 解释器计算跨越模型决策边界所需的最小修改。当前的深度生成式 CF 模型通常处理用户选择的特征，而非聚焦于黑盒模型的判别性特征。因此，此类 CF 样本未必位于决策边界附近，从而与 CF 的定义相悖。为解决该问题，我们在本文中提出一种利用显著性图生成更具信息量的 CF 解释的新方法。源代码见：https://github.com/Amir-Samadi//Saliency_Aware_CF。
引用
@article{arxiv.2307.15786,
title = {SAFE: Saliency-Aware Counterfactual Explanations for DNN-based Automated Driving Systems},
author = {Amir Samadi and Amir Shirian and Konstantinos Koufos and Kurt Debattista and Mehrdad Dianati},
journal= {arXiv preprint arXiv:2307.15786},
year = {2023}
}
备注
This paper is accepted at the 26th IEEE International Conference on Intelligent Transportation Systems (ITSC 2023)