一种减少卷积神经网络片外存储器访问的简单方法
神经与进化计算
2019-01-29 v1 计算机视觉与模式识别
机器学习
摘要
针对卷积神经网络,提出一种通过最大化利用神经处理单元中片上存储器来减少片外存储器访问的简单算法。特别地,该算法为处理由多个分支与一个合并层组成的模块提供了有效途径。对于 Exynos 中三星 NPU 上的 Inception-V3,我们的评估显示所提算法使片外存储器访问减少至 1/50,相应地实现了从/向片外存储器传输的特征图数据量降低 97.59%。
引用
@article{arxiv.1901.09614,
title = {A Simple Method to Reduce Off-chip Memory Accesses on Convolutional Neural Networks},
author = {Doyun Kim and Kyoung-Young Kim and Sangsoo Ko and Sanghyuck Ha},
journal= {arXiv preprint arXiv:1901.09614},
year = {2019}
}
备注
9 pages, 10 figures, under review (by ICML2019)