CapStore：面向 CapsuleNet 推理加速器的片上存储器节能设计与管理的设计
机器学习
2019-04-15 v2 硬件体系结构
摘要
深度神经网络（DNNs）已被确立为先进机器学习任务中最优的算法。近来，CapsuleNets 因其多维胶囊而较 DNNs 提升了泛化能力。然而，它们带来较高的计算与存储需求，使得节能推理成为一项挑战。本文通过大量分析展示了其因频繁存储器访问与大容量片上存储需求而产生的关键局限。为构建高效的 CapsuleNet 推理加速器，我们提出一种专用片上存储层次结构，在最小化片外存储访问的同时，高效向加速器供给数据。我们分析了架构中各存储组件的片上存储需求。基于该分析，我们提出一种探索不同片上存储设计的方法学，以及一种依据 CapsuleNet 不同操作下的利用率进一步降低能耗的电源门控技术。与最先进存储设计相比，我们的存储设计可将片上存储器能耗显著降低达 86%。正如我们分析所示，存储单元的功耗是 CapsuleNet 加速器功耗构成的主要部分，故所提存储设计可有效降低整个 CapsuleNet 加速器架构的总体能耗。
引用
@article{arxiv.1902.01151,
title = {CapStore: Energy-Efficient Design and Management of the On-Chip Memory for CapsuleNet Inference Accelerators},
author = {Alberto Marchisio and Muhammad Abdullah Hanif and Mohammad Taghi Teimoori and Muhammad Shafique},
journal= {arXiv preprint arXiv:1902.01151},
year = {2019}
}