量子退火在深度神经网络训练中的应用
量子物理
2015-10-22 v1 机器学习
机器学习
摘要
在深度学习中，训练深度神经网络的一种知名方法首先训练生成式深度信念网络模型，通常使用对比散度(CD)，然后通过反向传播或其他判别技术微调权重。然而，由于吉布斯采样混合缓慢，生成式训练可能耗时。我们研究了一种替代方法，利用来自D-Wave量子退火机的样本估计受限玻尔兹曼机的模型期望。我们在粗粒化版本的MNIST数据集上测试了该方法。我们的测试发现，基于量子采样的训练方法相较于传统的基于CD的训练，以显著更少的生成式训练迭代次数达到了相当或更好的精度。需要进一步研究以确定其他数据集是否能实现类似改进，以及这些改进在多大程度上可归因于量子效应。
引用
@article{arxiv.1510.06356,
title = {Application of Quantum Annealing to Training of Deep Neural Networks},
author = {Steven H. Adachi and Maxwell P. Henderson},
journal= {arXiv preprint arXiv:1510.06356},
year = {2015}
}
备注
18 pages