解读三维点云分类神经网络中间层中的隐藏语义
计算机视觉与模式识别
2023-03-14 v1
摘要
尽管三维点云分类神经网络模型已被广泛使用，对神经元与层激活的深入解读仍具挑战。我们提出一种称为相关性流（Relevance Flow）的新方法来解读三维点云分类神经网络的隐藏语义。它以反向传播方式将类别相关性传递至中间层中被激活的神经元，并将神经元激活与输入点关联以可视化各层的隐藏语义。特别地，我们揭示三维点云分类神经网络在中间层中学习了平面级与部件级的隐藏语义，并利用法向与 IoU 评估这两个层级隐藏语义的一致性。此外，通过使用隐藏语义，我们生成对抗攻击样本以攻击三维点云分类器。实验表明，我们提出的方法在 ModelNet40 与 ShapeNet 上揭示了三维点云分类神经网络的隐藏语义，其可用于无标签的无监督点云部件分割以及攻击三维点云分类器。
引用
@article{arxiv.2303.06652,
title = {Interpreting Hidden Semantics in the Intermediate Layers of 3D Point Cloud Classification Neural Network},
author = {Weiquan Liu and Minghao Liu and Shijun Zheng and Cheng Wang},
journal= {arXiv preprint arXiv:2303.06652},
year = {2023}
}