基于忆阻器的无监督神经形态系统以实现快速高能效 GAN
分布式、并行与集群计算
2019-09-10 v4 计算机视觉与模式识别
新兴技术
神经与进化计算
摘要
深度学习在推动当今人工智能发展方面取得了巨大成功。为解决监督学习领域中标记数据有限的挑战，无监督学习多年前已被提出，但其精度较低阻碍了实际应用。生成对抗网络（GAN）作为一种具有良好精度的无监督学习方法出现，并正被广泛研究。然而，GAN 的执行极度消耗内存与计算资源，导致速度极慢且功耗高。本工作中，我们提出了一种通过基于忆阻器的神经形态系统实现快速高能效 GAN 计算的整体解决方案。首先，我们采用软硬件协同设计方法高效映射 GAN 中的计算块。我们还根据不同时计算块之间的计算相关性，提出了一种用于最优并行化训练与测试的高效数据流。为计算 GAN 独特且复杂的损失，我们开发了具有优化精度与性能的微分块（diff-block）。在大数据上的实验结果表明，与传统 GPU 加速器相比，我们的设计实现了 2.8 倍加速和 6.1 倍节能，与先前基于 FPGA 的加速器相比实现了 5.5 倍加速和 1.4 倍节能。
引用
@article{arxiv.1806.01775,
title = {A Memristor based Unsupervised Neuromorphic System Towards Fast and Energy-Efficient GAN},
author = {F. Liu and C. Liu and F. Bi},
journal= {arXiv preprint arXiv:1806.01775},
year = {2019}
}
备注
8 pages, 14 figures