FFAM：用于 3D 检测器解释的特征分解激活图
计算机视觉与模式识别
2024-05-22 v1
摘要
近年来，基于 LiDAR 的 3D 目标检测取得了显著进展，但现有大多数模型属于黑盒，缺乏可解释性。先前的解释方法主要侧重于分析基于图像的模型，难以直接应用于基于 LiDAR 的 3D 检测器。在本文中，我们提出了一种特征分解激活图（FFAM），以生成高质量的 3D 检测器视觉解释。FFAM 采用非负矩阵分解生成概念激活图，随后将这些图聚合以获得全局视觉解释。为实现针对特定目标的视觉解释，我们利用目标物体的特征梯度对全局视觉解释进行细化。此外，我们引入了一种体素上采样策略，以对齐激活图与输入点云之间的尺度。我们在多个数据集上对多种检测器进行了 FFAM 的定性和定量分析。实验结果验证了 FFAM 生成的视觉解释具有高质量。代码将发布于 \url{https://github.com/Say2L/FFAM.git}。
引用
@article{arxiv.2405.12601,
title = {FFAM: Feature Factorization Activation Map for Explanation of 3D Detectors},
author = {Shuai Liu and Boyang Li and Zhiyu Fang and Mingyue Cui and Kai Huang},
journal= {arXiv preprint arXiv:2405.12601},
year = {2024}
}