通过迁移学习实现用于设备端CNN推理的节能硬件
机器学习
2019-02-28 v2 机器学习
摘要
用于实时计算机视觉应用的设备端CNN推理可能导致远超移动设备能量预算的计算需求。本文提出FixyNN，一种协同设计的硬件加速器平台，其将CNN模型分为两部分：一组在硬件平台中固定的层作为前端固定权重特征提取器，其余层作为后端分类器运行于常规可编程CNN加速器上。通用前端为所有FixyNN模型提供普适的CNN特征，而后端可编程且特定于给定数据集。FixyNN的图像分类模型通过迁移学习端到端训练，前端层固定为共享特征提取器，后端层针对特定任务微调。在六个数据集上，我们通过迁移学习训练模型，精度损失<1%，由此得到的FixyNN硬件平台在相同硅面积（即硬件成本）下比常规可编程CNN加速器能效提升近2倍。
引用
@article{arxiv.1812.01672,
title = {Energy Efficient Hardware for On-Device CNN Inference via Transfer Learning},
author = {Paul Whatmough and Chuteng Zhou and Patrick Hansen and Matthew Mattina},
journal= {arXiv preprint arXiv:1812.01672},
year = {2019}
}
备注
4 pages, 2 figures, NeurIPS 2018 on-device ML workshop