3D 点云网络剪枝:当某些权重不重要时
计算机视觉与模式识别
2024-08-28 v1
摘要
点云是众多应用中利用的关键几何数据结构。采用称为点云神经网络(PC-NNs)的深度神经网络处理 3D 点云,显著推进了依赖于 3D 几何数据的领域,以提高任务的效率。扩大神经网络模型和 3D 点云的规模引入了在最小化计算和内存要求方面的重大挑战,这对于满足现实应用的严峻要求至关重要,这些要求强调最小化能源消耗和低时延。因此,调查 PCNNs 中的冗余性至关重要且具有挑战性,因为它们对参数敏感。传统的剪枝方法面临困难,因为这些网络高度依赖权重和点。尽管如此,我们的研究揭示了一个具有前景的现象,可细化标准 PCNN 剪枝技术。我们的发现表明,仅保留最高 magnitude 权重的前 p% 对于保持准确率至关重要。例如,从 PointNet 模型中剪枝 99% 的权重仍可保持接近基准水平的准确率。具体而言,在 ModelNet40 数据集上,PointNet 模型的基准准确率为 87.5%,仅保留 1% 的权重仍可实现 86.8% 的准确率。代码可在:https://github.com/apurba-nsu-rnd-lab/PCNN_Pruning 提供。
关键词
引用
@article{arxiv.2408.14601,
title = {3D Point Cloud Network Pruning: When Some Weights Do not Matter},
author = {Amrijit Biswas and Md. Ismail Hossain and M M Lutfe Elahi and Ali Cheraghian and Fuad Rahman and Nabeel Mohammed and Shafin Rahman},
journal= {arXiv preprint arXiv:2408.14601},
year = {2024}
}
备注
Accepted in BMVC 2024