用于容错XNOR-Net的磁阻式随机存取存储器
机器学习
2019-05-28 v1 机器学习
摘要
我们使用易错激活在多种数据集(MNIST、CIFAR-10、CIFAR-100、扩展SVHN、ImageNet)上训练了三种二值化卷积神经网络架构(LeNet-4、Network-In-Network、AlexNet),并在无错误条件下测试以研究训练过程的鲁棒性。除在ImageNet数据集上训练的AlexNet外,我们发现训练期间百分之几的比特错误率(BER)不会降低测试精度。此外,通过在 progressively 更小的ImageNet类别子集上训练AlexNet,我们观察到对激活错误的容忍度逐渐增加。在高BER下运行的能力对于降低现有硬件的功耗以及促进新兴存储技术至关重要。我们讨论了以中等BER运行如何实现具有更高耐久性、速度和密度的磁阻式随机存取存储器(Magnetoresistive RAM)。
引用
@article{arxiv.1905.10927,
title = {Magnetoresistive RAM for error resilient XNOR-Nets},
author = {Michail Tzoufras and Marcin Gajek and Andrew Walker},
journal= {arXiv preprint arXiv:1905.10927},
year = {2019}
}
备注
8 pages, 5 figures