基于联合端到端滤波器剪枝的轻量级单目深度估计模型
计算机视觉与模式识别
2020-05-19 v1
摘要
卷积神经网络（CNNs）已成为包括深度估计在内的多种视觉任务中的最优方法。然而，内存与算力需求仍是这些模型需应对的挑战。单目深度估计在机器人与虚拟现实中有重要用途，需在低端设备上部署。从头训练小模型会导致精度显著下降，且无法受益于预训练大模型。受模型剪枝文献启发，我们提出了一种由大型已训练模型得到的轻量级单目深度模型。这是通过一种新颖的联合端到端滤波器剪枝去除最不重要特征来实现的。我们提议为每个滤波器学习一个二值掩码以决定是否丢弃该滤波器。这些掩码联合训练，以利用不同层滤波器间的关系及同层内的冗余。我们表明在 KITTI 驾驶数据集上可实现约 5 倍压缩率且精度下降很小。我们还表明，即使不施加压缩损失，掩码也能以更少参数取得优于基线的精度。
引用
@article{arxiv.1905.05212,
title = {Lightweight Monocular Depth Estimation Model by Joint End-to-End Filter pruning},
author = {Sara Elkerdawy and Hong Zhang and Nilanjan Ray},
journal= {arXiv preprint arXiv:1905.05212},
year = {2020}
}