二值输入层：使用二值输入数据训练 CNN 模型
机器学习
2018-12-11 v1 计算复杂性
机器学习
摘要
为在边缘设备上高效执行深度卷积神经网络（CNN），已有多种方法将网络参数的位宽降低至 1 位。第一层的二值化始终被排除，因其会导致显著的误差增加。在此，我们提出二值输入层（BIL）这一新概念，它通过学习位特定的二值权重来允许使用二值输入数据。该概念在三个数据集（PAMAP2、SVHN、CIFAR-10）上进行了评估。我们的结果表明，该方法对多模态数据集（PAMAP2）尤其有益，其以 1.92 个百分点（pp）的优势超越使用全精度第一层权重的网络，同时仅消耗 2% 的芯片面积。
引用
@article{arxiv.1812.03410,
title = {Binary Input Layer: Training of CNN models with binary input data},
author = {Robert Dürichen and Thomas Rocznik and Oliver Renz and Christian Peters},
journal= {arXiv preprint arXiv:1812.03410},
year = {2018}
}
备注
NeurIPS, 2nd Workshop on Machine Learning on the Phone and other Consumer Devices (MLPCD 2), 2018