CascadeCNN：推动量化性能极限
计算机视觉与模式识别
2018-05-23 v1 人工智能
机器学习
摘要
本工作提出了CascadeCNN，一种自动化工具流，通过利用计算时间-精度权衡，推动任何给定CNN模型的量化极限，以实现高吞吐推理。无需重新训练，即可生成针对任何给定FPGA设备定制的两阶段架构，包括一个低精度单元和一个高精度单元。两者之间使用一个置信度评估单元，在运行时识别误分类案例，并将其转发至高精度单元或终止计算。实验表明，在相同资源预算和精度下，CascadeCNN相比基线设计，对VGG-16实现了高达55%的性能提升，对AlexNet实现了48%的性能提升。
引用
@article{arxiv.1805.08743,
title = {CascadeCNN: Pushing the performance limits of quantisation},
author = {Alexandros Kouris and Stylianos I. Venieris and Christos-Savvas Bouganis},
journal= {arXiv preprint arXiv:1805.08743},
year = {2018}
}
备注
Accepted at SysML Conference 2018