衍射深度神经网络中的光学相位丢弃
光学
2021-11-03 v1 机器学习
摘要
酉学习是一种在具有全连接的深度复值神经网络中用于更新酉权重的反向传播，满足衍射深度神经网络（[DN]2）中的物理酉先验。然而，酉权重的方阵性质导致函数信号的维度受限，无法很好地泛化。为解决加载到 [DN]2 的小样本所带来的过拟合问题，我们实现了一种光学相位丢弃技巧。从复值丢弃演化而来并具有统计推断的酉空间中的相位丢弃被首次公式化。由具有随机相移的随机点孔径重建的合成掩模及其平滑调制，通过在每一衍射层对输入光场进行不完全采样来裁剪冗余连接。详细阐明了使用不同非线性激活的合成掩模的物理特征。数字模型与衍射模型之间的等价性确定了复合调制，可成功规避 [DN]2 中物理实现的非线性激活。数值实验验证了光学相位丢弃在 [DN]2 中提升面向二维分类与识别任务准确性的优越性。
引用
@article{arxiv.2011.14130,
title = {Optical Phase Dropout in Diffractive Deep Neural Network},
author = {Yong-Liang Xiao},
journal= {arXiv preprint arXiv:2011.14130},
year = {2021}
}