Flow AM：通过潜在对齐生成点云全局解释
计算机视觉与模式识别
2024-04-30 v1
摘要
尽管近年来点云模型在预测准确性上取得了显著提升，但其可信度仍未得到充分研究。在全局可解释性方面，由于点云模型的特殊结构，图像域中的激活最大化技术无法直接移植。现有研究利用生成模型产生人类可感知的全局解释。然而，生成模型本身的不透明性以及额外先验的引入，使得解释的合理性和保真度受到质疑。本工作表明，当分类器预测不同类型实例时，中间层激活会以不同方式激活，即激活流。基于这一特性，我们提出了一种基于激活流的激活最大化方法，无需引入任何生成模型即可生成可感知的全局解释。此外，我们揭示了基于生成模型的激活最大化无法通过健全性检查，因此缺乏保真度。大量实验表明，与不基于生成模型的其他激活最大化方法相比，我们的方法显著增强了解释的可感知性。我们的代码可在 https://github.com/Explain3D/FlowAM 获取。
引用
@article{arxiv.2404.18760,
title = {Flow AM: Generating Point Cloud Global Explanations by Latent Alignment},
author = {Hanxiao Tan},
journal= {arXiv preprint arXiv:2404.18760},
year = {2024}
}