ChewBaccaNN：一款灵活的 223 TOPS/W 二值神经网络加速器

二值神经网络赋能智能物联网设备，因其显著减少所需内存占用与计算复杂度，同时保留较高的网络性能与灵活性。本文提出 ChewBaccaNN，一款采用 GlobalFoundries 22 nm 工艺设计的 0.7 mm$^2$ 尺寸二值卷积神经网络（CNN）加速器。通过高效的数据复用、数据缓冲、基于锁存器的存储器与电压缩放，在 0.4V/154MHz 下推理核尺寸达 7x7 的二值 CNN 时实现 241 GOPS 吞吐率，仅消耗 1.1 mW，核心峰值能效达 223 TOPS/W。ChewBaccaNN 的灵活性可运行远多于其他加速器的二值 CNN，大幅改善精度-能耗权衡，超越 TOPS/W 指标所能刻画的范围。事实上，它以仅 1.3 $\mu J$ 完成 CIFAR-10 推理，精度达 86.8%，较即便最高效且大得多的模拟存内处理器件精度更高、能耗降低 2.8 倍，同时保留运行更大 CNN 以提升精度时的灵活性。它亦运行在 1000 类 ILSVRC 数据集上训练的二值 ResNet-18，较同类灵活性加速器能效提升 4.4 倍。此外，它可对采用 8-bases Group-Net 训练的二值 ResNet-18 推理，以仅 3.0 mJ/帧实现 67.5% Top-1 精度——较全精度 ResNet-18 精度仅降 1.8%。