缓解基于阻性交叉阵列的卷积神经网络中的寄生电阻
新兴技术
2019-12-19 v1 神经与进化计算
摘要
传统计算硬件在大规模卷积神经网络（CNN）应用上常遭遇片上存储瓶颈。凭借其独特的内存计算特性，基于阻性交叉阵列的计算作为解决冯·诺依曼架构中存储瓶颈问题的有前景方案吸引了研究人员的注意。然而，交叉阵列中的寄生电阻使其行为偏离理想的加权求和运算。在大规模实现中，必须仔细考虑并缓解寄生电阻的影响以确保电路功能。本工作中，我们在考虑寄生电阻的情况下于阻性交叉阵列电路上实现并仿真了 CNN。此外，我们提出了一种用于卷积中交叉阵列高利用率的新映射方案，以及一种缓解 CNN 应用中寄生电阻的算法。该缓解算法考虑寄生电阻以及各层的数据/核模式，以最小化基于交叉阵列的 CNN 卷积中的计算误差。我们通过在一个 4 层 CNN 上于 MNIST 实现、以及 ResNet（20、32 和 56）上于 CIFAR-10 实现来展示所提方法。仿真结果表明所提方法能良好缓解交叉阵列中的寄生电阻。借助我们的方法，交叉阵列上的现代 CNN 在 6 位 ADC 和 DAC 实现下可保持理想（软件）水平的分类精度。
引用
@article{arxiv.1912.08716,
title = {Mitigate Parasitic Resistance in Resistive Crossbar-based Convolutional Neural Networks},
author = {Fan Zhang and Miao Hu},
journal= {arXiv preprint arXiv:1912.08716},
year = {2019}
}
备注
Proceedings of ACM Journal on Emerging Technologies in Computing (JETC) SI: Nanoelectronic Device, Circuit, Architecture Design. arXiv admin note: text overlap with arXiv:1810.02225