AUSN：通过自适应叠加非均匀分布实现近似均匀量化的深度神经网络方法

量化对于简化边缘应用中的 DNN 推理至关重要。然而，现有的均匀与非均匀量化方法在表示范围与表示分辨率之间表现出固有矛盾，从而导致比特宽度利用不足或显著的精度下降。此外，这些方法存在三个缺陷：i）缺乏用于深入分析量化误差来源的定量度量；ii）仅有限关注基于 CNN 的图像分类任务；iii）未考虑通过降低比特宽度所减少的真实硬件与能耗。在本文中，我们首先定义两个定量度量，即截断误差与舍入误差，以分析量化误差分布。我们观察到边界误差与舍入误差在层、模型与任务间差异显著。据此，我们提出一种新颖的量化方法来量化权重与激活。其核心思想是通过自适应叠加多个非均匀量化值来近似均匀量化，即 AUSN。AUSN 由一种无解码器编码方案（将比特宽度利用至极致）、一种可令编码方案适配不同 DNN 层、模型与任务而无需额外硬件设计工作的叠加量化算法，以及一种可消除众所周知的位宽溢出与重量化问题的舍入方案构成。理论分析（见附录 A）与针对不同任务多种 DNN 模型的精度评估显示了 AUSN 的有效性与泛化性。FPGA 上的综合（见附录 B）结果显示能耗降低 $2\times$，硬件资源降低 $2\times$ 至 $4\times$。