使用基于有意义分割的扰动进行点云数据的 XAI

我们提出了一种新颖的基于分割的可解释人工智能（XAI）方法，用于处理点云分类的神经网络。作为该方法的一个构建模块，我们提出了一种新颖的点偏移机制，以在点云数据中引入扰动。最近，AI 呈指数级增长。因此，了解 AI 算法在应用于关键领域时的决策过程非常重要。我们的工作重点是解释对点云数据进行分类的 AI 算法。用于解释 AI 算法的方法的一个重要方面是它们能够产生易于人类理解的解释。这使他们能够更好地分析 AI 算法，并基于该分析做出适当的决策。因此，在这项工作中，我们打算生成人类可以轻松解释的有意义的解释。我们考虑的点云数据代表 3D 物体，例如汽车、吉他和笔记本电脑。我们利用点云分割模型来生成分类模型工作原理的解释。这些片段用于在输入点云数据中引入扰动并生成显著性图。扰动是使用这项工作中提出的新颖点偏移机制引入的，该机制确保偏移的点不再影响分类算法的输出。与以前的方法相比，我们的方法使用的片段是有意义的，即人类可以轻松解释片段的含义。因此，我们的方法相对于其他方法的优势在于它能够产生更有意义的显著性图。我们将我们的方法与使用经典聚类算法生成解释的方法进行了比较。我们还分析了使用我们的方法为示例输入生成的显著性图，以证明该方法在生成有意义的解释方面的有用性。