SECS：基于类别偏斜二分的的高效深度流处理
计算机视觉与模式识别
2018-09-24 v1 人工智能
性能
摘要
尽管加速卷积神经网络（CNN）受到越来越多的研究关注，但资源消耗的节省总是伴随着准确率的下降。为了同时提高准确率并降低资源消耗，我们探索了一种称为类别偏斜的环境信息，它易于获取且广泛存在于日常生活中。由于类别偏斜可能随时间切换，我们引入概率层以在运行时无开销地利用类别偏斜。进一步，我们观察到类别偏斜二分现象：某些类别偏斜可能在未来频繁出现，称为热类别偏斜，而其他偏斜不会再出现或很少出现，称为冷类别偏斜。受源代码优化技术启发，我们提出了两种模式，即解释模式与编译模式。解释模式针对冷类别偏斜追求运行时的高效适配，而编译模式对热类别偏斜进行激进优化，以便未来更高效的部署。激进优化通过类别特定剪枝实现并提供额外收益。最后，我们设计了一个系统性框架 SECS，用于动态检测类别偏斜、处理解释与编译，以及在运行时资源预算下选择最精确的架构。大量评估表明，与最先进的卷积神经网络相比，SECS 可实现 3 倍至 11 倍的端到端分类加速，且准确率更高。
引用
@article{arxiv.1809.06691,
title = {SECS: Efficient Deep Stream Processing via Class Skew Dichotomy},
author = {Boyuan Feng and Kun Wan and Shu Yang and Yufei Ding},
journal= {arXiv preprint arXiv:1809.06691},
year = {2018}
}
备注
arXiv admin note: text overlap with arXiv:1611.06453 by other authors