HPTQ：硬件友好的训练后量化
计算机视觉与模式识别
2021-11-17 v3 人工智能
摘要
神经网络量化实现了模型在边缘设备上的部署。其硬件效率的一项基本要求是量化器为硬件友好：均匀、对称且阈值为 2 的幂。据我们所知，当前的训练后量化方法不能同时支持所有这些约束。在本工作中，我们引入一种硬件友好的训练后量化（HPTQ）框架，通过协同结合若干已知量化方法来解决该问题。我们在四项任务上开展了大规模研究：分类、目标检测、语义分割与姿态估计，涵盖多种网络架构。我们大量的实验表明，在硬件友好约束下可获得具有竞争力的结果。
引用
@article{arxiv.2109.09113,
title = {HPTQ: Hardware-Friendly Post Training Quantization},
author = {Hai Victor Habi and Reuven Peretz and Elad Cohen and Lior Dikstein and Oranit Dror and Idit Diamant and Roy H. Jennings and Arnon Netzer},
journal= {arXiv preprint arXiv:2109.09113},
year = {2021}
}