基于流形的 Shapley 方法用于 SAR 识别网络解释
人工智能
2024-01-09 v1
摘要
可解释人工智能（XAI）在增强深度神经网络的透明度和可信度方面具有重大意义，尤其是在一些高风险和高成本场景中，如合成孔径雷达（SAR）。Shapley 是一种基于博弈的解释技术，具有坚实的数学基础。然而，Shapley 假设模型特征是独立的，这使得 Shapley 解释对于高维模型无效。本研究通过将高维特征投影到低维流形特征中，并随后获得 Fusion-Shap，引入了一种基于流形的 Shapley 方法，其旨在（1）解决传统 Shapley 遇到的错误解释问题；（2）解决传统 Shapley 在复杂场景中面临的可解释性挑战。
引用
@article{arxiv.2401.03128,
title = {Manifold-based Shapley for SAR Recognization Network Explanation},
author = {Xuran Hu and Mingzhe Zhu and Yuanjing Liu and Zhenpeng Feng and LJubisa Stankovic},
journal= {arXiv preprint arXiv:2401.03128},
year = {2024}
}
备注
5 pages, 4 figures