深度衍射神经网络的酉学习
神经与进化计算
2020-09-21 v1 信号处理
摘要
利用相干衍射实现深度学习在当今已取得显著发展，其优势在于矩阵乘法可以光学方式并行执行且功耗极低。以复数值实体形式传播的相干光场可被操控为具有统计推断能力的面向任务的输出。在本文中，我们提出一种深度衍射神经网络上的酉学习协议，以满足相干衍射中的物理酉先验。酉学习是一种通过欧几里得空间与黎曼空间之间的梯度转换来实现酉权重更新的反向传播。本文阐述并阐明了酉学习中的时空演化特性。特别地，揭示了关于如何在复空间中选择非线性激活函数的兼容条件，其囊括了复空间中的基本 sigmoid、tanh 和准 ReLu。作为一个初步应用，具有酉学习的深度衍射神经网络被尝试性地应用于二维分类与验证任务。
引用
@article{arxiv.2009.08935,
title = {Unitary Learning for Deep Diffractive Neural Network},
author = {Yong-Liang Xiao},
journal= {arXiv preprint arXiv:2009.08935},
year = {2020}
}