三值量化：综述
机器学习
2023-03-06 v1 人工智能
计算复杂性
摘要
推理时间、模型大小和准确性对于部署深度神经网络模型至关重要。大量研究工作致力于以更快推理和更高准确性压缩神经网络模型。剪枝和量化是实现此目的的主流方法。在模型量化过程中，将层权重的单个浮点值转换为低精度值可大幅降低计算开销并提升推理速度。已有许多量化方法被研究，例如向量量化、低比特量化和二值/三值量化。本综述聚焦于三值量化。我们回顾了三值量化的演进，并从投影函数和优化方法的角度考察现有三值量化方法之间的关系。
引用
@article{arxiv.2303.01505,
title = {Ternary Quantization: A Survey},
author = {Dan Liu and Xue Liu},
journal= {arXiv preprint arXiv:2303.01505},
year = {2023}
}