BitFair：具有可学习提前终止和自适应位排序的12nm位串行CNN加速器，用于超低功耗XR视觉

扩展现实（XR）可穿戴设备需要在几瓦的严格功耗预算和低于20毫秒的运动到光子延迟预算内实现始终在线的感知，仅留下几毫秒用于神经网络推理。位串行计算对于此类节能神经网络加速具有吸引力，但许多现有架构即使在ReLU将最终输出设置为零时仍处理所有位。本文介绍了BitFair，一个软硬件协同设计的位串行CNN加速器，具有可学习的位级提前终止和自适应位排序，在XR应用的超低功耗和严格延迟要求下工作。BitFair通过学习每层阈值来利用动态位级稀疏性，当部分和可靠地预测最终ReLU输出将为零时触发提前终止。此外，它搜索优先考虑信息位的逐层位顺序，在不牺牲准确性的情况下最大化提前终止。GlobalFoundries 12nm FinFET实现，核心面积为0.34 mm^2，104 KB片上存储器，电压从0.55 V扩展到0.70 V，实现了亚毫秒延迟，高达117.0 BTOPS/W的能效，以及0.07 pJ/SOP。在IBM DVS128手势和N-MNIST上，BitFair分别实现了96.5%和97.7%的准确性，同时相对于先前制造的XR视觉加速器，有效能效提高了4.0-22.1倍，准确性提高了高达9.2%。