通过逐层混合滤波器组实现三元 MobileNets
机器学习
2019-11-05 v1 计算机视觉与模式识别
机器学习
摘要
MobileNets 系列计算机视觉神经网络近年来在推动资源高效架构的设计与组织方面取得了巨大进展。在高度受限设备上具有严格实时需求的新应用，需要进一步压缩类似 MobileNets 的已具计算高效性的网络。模型量化是一种广泛使用的压缩和加速神经网络推理的技术，已有工作将 MobileNets 量化为 4–6 位，尽管精度有从轻微到显著的下降。虽然亚字节值（即精度小于或等于 8 位）的量化很有价值，但将 MobileNets 进一步量化为二值或三值，对于在专用硬件（如 ASIC 和 FPGA）上实现显著的能耗节省以及可能的运行加速是必要的。基于深度神经网络每一层的卷积滤波器对三值量化的响应可能不同的关键观察，我们提出了一种新颖的量化方法，为 MobileNets 生成由全精度和三值权重滤波器组成的逐层混合滤波器组。这种逐层混合滤波器组本质上结合了全精度与三值权重滤波器的优势，从而推导出紧凑、节能的 MobileNets 架构。使用该提出的量化方法，我们将 MobileNets 的绝大部分权重滤波器量化为三值，实现了 27.98% 的能耗节省和 51.07% 的模型尺寸缩减，同时在专用硬件上相较于基线全精度 MobileNets 取得了可比的精度且吞吐量无退化。
引用
@article{arxiv.1911.01028,
title = {Ternary MobileNets via Per-Layer Hybrid Filter Banks},
author = {Dibakar Gope and Jesse Beu and Urmish Thakker and Matthew Mattina},
journal= {arXiv preprint arXiv:1911.01028},
year = {2019}
}