LCPFormer:通过变换器中局部上下文传播实现高效三维点云分析
计算机视觉与模式识别
2023-02-21 v2
摘要
Transformer 凭借其底层注意力机制与捕获长程依赖的能力,成为无序点云数据的自然选择。然而,通用采样架构中分离的局部区域破坏了实例的结构信息,且相邻局部区域之间的固有关系缺乏探索,而局部结构信息在基于 Transformer 的三维点云模型中至关重要。因此,本文提出一种名为局部上下文传播(LCP)的新模块,以利用相邻局部区域间的消息传递,使其表示更具信息量与判别力。更具体地,我们使用相邻局部区域的重叠点(统计上显示其普遍存在)作为中介,然后在将这些共享点传递到下一层之前,对不同局部区域中这些共享点的特征进行重加权。在两个 Transformer 层之间插入 LCP 模块可显著提升网络表达能力。最后,我们设计了一种配备 LCP 模块的灵活 LCPFormer 架构。所提方法适用于不同任务,并在包括三维形状分类以及如三维目标检测与语义分割等密集预测任务的基准上优于多种基于 Transformer 的方法。代码将发布以供复现。
引用
@article{arxiv.2210.12755,
title = {LCPFormer: Towards Effective 3D Point Cloud Analysis via Local Context Propagation in Transformers},
author = {Zhuoxu Huang and Zhiyou Zhao and Banghuai Li and Jungong Han},
journal= {arXiv preprint arXiv:2210.12755},
year = {2023}
}
备注
Accepted by TCSVT