通过多级原位生成迈向内存高效的神经网络
机器学习
2021-09-07 v2 新兴技术
摘要
深度神经网络 (DNN) 在各种任务中展现出了卓越的性能。随着其快速发展，不断攀升的计算与内存需求使得将它们部署于资源受限的边缘设备上变得极具挑战性。尽管从传统电子器件到新兴光子器件的大量高效加速器设计已被成功验证，但由于电内存与计算核心在带宽/功耗/延迟之间存在巨大差距，它们仍受制于昂贵的内存访问。以往的解决方案未能充分利用新兴 DNN 加速器的超快计算速度来突破关键的内存瓶颈。在本工作中，我们提出了一个通用且统一的框架，以超快的片上计算来替代昂贵的内存事务，直接转化为性能提升。我们首次联合探索了 DNN 核内部的内在相关性与比特级冗余，并提出了一种具有混合精度基的多级原位生成机制，以最小的硬件开销实现高分辨率参数的即时恢复。大量实验表明，在 ResNet-18/DenseNet-121/MobileNetV2/V3 上针对各种任务进行基准测试时，我们提出的联合方法与四种最先进的设计相比，在精度相当的情况下可将内存效率提升 10-20 倍。
引用
@article{arxiv.2108.11430,
title = {Towards Memory-Efficient Neural Networks via Multi-Level in situ Generation},
author = {Jiaqi Gu and Hanqing Zhu and Chenghao Feng and Mingjie Liu and Zixuan Jiang and Ray T. Chen and David Z. Pan},
journal= {arXiv preprint arXiv:2108.11430},
year = {2021}
}
备注
Accepted by International Conference on Computer Vision (ICCV) 2021