Express Wavenet——一种具有随机平移小波模式的低参数量光学神经网络
机器学习
2021-02-03 v1 计算机视觉与模式识别
图像与视频处理
机器学习
摘要
Express Wavenet 是一种改进的光学衍射神经网络。在每一层,它使用类小波模式来调制光波的相位。对于具有 n^2 像素的输入图像,express wavenet 将参数量从 O(n^2) 降低到 O(n)。仅需百分之一的参数,准确率仍然很高。在 MNIST 数据集上,它仅需 1229 个参数即可达到 92% 的准确率,而标准光学网络需要 125440 个参数。随机平移小波更生动地展示了光学网络的特征,尤其是训练过程中的梯度消失现象。我们针对该问题提出了一种改进的 expressway 结构。实验验证了随机平移小波和 expressway 结构的效果。我们的工作表明光学衍射网络所需的参数量远少于其他神经网络。源代码可在 https://github.com/closest-git/ONNet 获取。
引用
@article{arxiv.2001.01458,
title = {Express Wavenet -- a low parameter optical neural network with random shift wavelet pattern},
author = {Yingshi Chen},
journal= {arXiv preprint arXiv:2001.01458},
year = {2021}
}
备注
5 pages,4 figures