BSED：基于基线 Shapley 值的可解释检测器

可解释人工智能（XAI）在目标识别领域取得了显著进展，显著性图被用于高亮与学习模型预测相关的图像特征。尽管这些进展使基于 AI 的技术对人类更具可解释性，若干问题也随之显现。某些方法给出的解释与预测无关，且无法保证 XAI（公理）的有效性。本研究提出基线 Shapley 值可解释检测器（BSED），将 Shapley 值扩展至目标检测，从而增强解释的有效性。Shapley 值能在满足可解释性公理的同时，将学习模型的预测归因至基线特征。BSED 的处理开销处于合理范围，而原始 Shapley 值的计算代价高至难以承受。此外，BSED 是一种通用方法，能以模型无关方式应用于各类检测器，并在无需细粒度参数调优的情况下解释多种检测目标。这些优势使 XAI 具备实际适用性。我们给出与现有方法的定量与定性比较，以证明本方法在解释有效性上的优越性能。此外，我们展示了一些应用，例如基于本方法解释修正检测。