面向点云网络的快速且简单的可解释性
计算机视觉与模式识别
2024-03-18 v2 机器学习
摘要
我们提出了一种针对点云数据的快速且简单的可解释 AI (XAI) 方法。它针对训练好的网络的下游任务计算逐点重要性。这有助于更好地理解网络属性，这对于安全关键应用是必不可少的。除了调试和可视化之外，我们较低的计算复杂度促进了在推理时向网络提供在线反馈。这可用于减少不确定性并增强鲁棒性。在这项工作中，我们引入了 \emph{Feature Based Interpretability} (FBI)，在瓶颈层之前逐点计算特征范数。我们分析了梯度的使用以及瓶颈层后和瓶颈层前策略，表明在平滑性和排序方面，瓶颈层前策略更受青睐。与当前的 XAI 方法相比，我们获得了至少三个数量级的加速，因此对于大型点云或大规模架构具有可扩展性。我们的方法在分类可解释性方面取得了 SOTA 结果。我们展示了所提出的度量如何有助于分析和表征 3D 学习的各个方面，例如旋转不变性、对分布外 (OOD) 异常值或域偏移的鲁棒性以及数据集偏差。
引用
@article{arxiv.2403.07706,
title = {Fast and Simple Explainability for Point Cloud Networks},
author = {Meir Yossef Levi and Guy Gilboa},
journal= {arXiv preprint arXiv:2403.07706},
year = {2024}
}