X-CHANGR：通过改变忆阻交叉阵列映射缓解深度神经网络中线电阻引起的精度退化
新兴技术
2019-07-02 v1
摘要
人们对新兴技术尤其是用于加速深度神经网络（DNNs）的阻性交叉阵列有着广泛兴趣。阻性交叉阵列提供高度并行且高效的矩阵-向量乘法（MVM）操作。由于MVM是DNN中最主导的操作，交叉阵列极为适合。然而，各种器件与电路非理想性来源导致MVM输出误差，从而降低DNN精度。为此，我们提出交叉阵列重映射策略，以缓解线电阻引起的DNN精度退化，且不同于大多数先前工作，无需重新训练已学习权重。线电阻会使交叉阵列列方向上的电压电平退化，从而在远离驱动器的列处引发更多误差。我们基于敏感性分析对DNN权重和卷积核进行排序，并重新排布各列，使最敏感的卷积核映射在更靠近驱动器的位置，从而最小化误差对整体精度的影响。我们提出两种算法——静态重映射策略（SRS）与动态重映射策略（DRS），以优化预训练DNN的交叉阵列重排。我们在使用CIFAR10数据集训练的标准VGG16网络上展示了方法的益处。结果表明，SRS和DRS将精度退化分别限制在2.9%和2.1%，而权重和卷积核直接映射至交叉阵列的退化达5.6%。我们认为该工作带来了一种额外的优化维度，可与现有缓解技术（如原位补偿、技术感知训练与重训练方法）协同使用以提升系统性能。
引用
@article{arxiv.1907.00285,
title = {X-CHANGR: Changing Memristive Crossbar Mapping for Mitigating Line-Resistance Induced Accuracy Degradation in Deep Neural Networks},
author = {Amogh Agrawal and Chankyu Lee and Kaushik Roy},
journal= {arXiv preprint arXiv:1907.00285},
year = {2019}
}