通过网络剪枝设计轻量级目标跟踪器：用CNN还是Transformer？
计算机视觉与模式识别
2023-03-28 v2 人工智能
机器学习
摘要
部署在低功耗设备上的目标跟踪器需要轻量级，然而当前大多数最先进(SOTA)方法依赖使用CNN或transformer构建的计算密集型骨干网络。此类模型的大尺寸使其无法在低功耗条件下部署，设计大型跟踪模型的压缩变体十分重要。本文展示了如何利用对基于大型CNN和transformer跟踪器的神经架构剪枝来设计高度压缩的轻量级目标跟踪器。此外，提供了最适合设计轻量级跟踪器的架构选择的比较研究。呈现了使用CNN、transformer以及二者组合的SOTA跟踪器之间的比较，以研究其在各种压缩比下的稳定性。最后展示了在某些情况下降至低至1%的极端剪枝场景结果，以研究网络剪枝在目标跟踪中的极限。本工作为从现有SOTA方法设计高效跟踪器提供了更深入的见解。
引用
@article{arxiv.2211.13769,
title = {On Designing Light-Weight Object Trackers through Network Pruning: Use CNNs or Transformers?},
author = {Saksham Aggarwal and Taneesh Gupta and Pawan Kumar Sahu and Arnav Chavan and Rishabh Tiwari and Dilip K. Prasad and Deepak K. Gupta},
journal= {arXiv preprint arXiv:2211.13769},
year = {2023}
}
备注
Accepted at IEEE ICASSP 2023