基于代理模型的点云神经网络可解释性方法
计算机视觉与模式识别
2021-08-19 v3 机器学习
摘要
在自动驾驶与机器人领域，点云作为大多数主流 3D 传感器的原始数据，展现出优异的实时性能。因此，点云神经网络近年来成为热门研究方向。然而迄今为止，关于点云深度神经网络可解释性的讨论甚少。本文中，我们提出一种基于局部代理模型、适用于点云的可解释性方法，以展示哪些成分对分类有贡献。此外，我们提出针对所生成解释的量化的保真度验证，以增强可解释性的说服力，并比较不同现有适用点云的可解释性方法的合理性。我们的新可解释性方法为点云分类任务提供了相当准确、语义更连贯且广泛适用的解释。我们的代码可在 https://github.com/Explain3D/LIME-3D 获取。
引用
@article{arxiv.2107.13459,
title = {Surrogate Model-Based Explainability Methods for Point Cloud NNs},
author = {Hanxiao Tan and Helena Kotthaus},
journal= {arXiv preprint arXiv:2107.13459},
year = {2021}
}