TrueNorth芯片上面向推理精度、核心占用与性能协同优化的新学习方法
神经与进化计算
2016-07-19 v3 人工智能
摘要
IBM TrueNorth 芯片使用数字脉冲执行神经形态计算,实现超高执行并行度与功耗效率。然而,在 TrueNorth 芯片中,突触权重与脉冲的低量化精度严重限制了所部署神经网络模型的推理(如分类)精度。现有变通方法即在空间与时间域实例化多个副本取平均,会迅速耗尽硬件资源并减慢计算。本工作中,我们提出一种 TrueNorth 平台上的新学习方法,其约束每个计算副本的随机方差并减少所需副本数。与现有学习方法相比,我们的方法可实现所需神经突触核心减少达 68.8% 或 6.5 倍加速,且推理精度甚至略有提升。
引用
@article{arxiv.1604.00697,
title = {A New Learning Method for Inference Accuracy, Core Occupation, and Performance Co-optimization on TrueNorth Chip},
author = {Wei Wen and Chunpeng Wu and Yandan Wang and Kent Nixon and Qing Wu and Mark Barnell and Hai Li and Yiran Chen},
journal= {arXiv preprint arXiv:1604.00697},
year = {2016}
}
备注
6 pages; 9 figures; DAC 2016