基于软硬件协同设计的实时多任务衍射深度神经网络
机器学习
2021-04-05 v2 人工智能
光学
摘要
深度神经网络（DNNs）具有巨大的计算需求，这极大限制了其在资源受限环境中的性能。近来，基于光学神经网络和光学计算的 DNN 硬件研究不断增多，其在功耗效率、并行性和计算速度方面为深度学习系统带来显著优势。其中，基于光衍射的自由空间衍射深度神经网络（DNNs）每层具有数百万个神经元，并与相邻层神经元互连。然而，由于实现可重构性的挑战，部署不同的 DNN 算法需要重新构建和复制物理衍射系统，这在实际应用场景中显著降低了硬件效率。因此，本工作提出一种新颖的软硬件协同设计方法，可在 DNNs 中实现鲁棒且抗噪的多任务学习（Multi-task Learning）。我们的实验结果证明了通用性和硬件效率的显著提升，并展示了所提多任务 DNN 架构在所有系统组件的宽噪声范围下的鲁棒性。此外，我们提出了一种用于训练该多任务架构的专用正则化算法，可用于灵活调整各任务的期望性能。
引用
@article{arxiv.2012.08906,
title = {Real-time Multi-Task Diffractive Deep Neural Networks via Hardware-Software Co-design},
author = {Yingjie Li and Ruiyang Chen and Berardi Sensale Rodriguez and Weilu Gao and Cunxi Yu},
journal= {arXiv preprint arXiv:2012.08906},
year = {2021}
}
备注
23 pages including references and Supplementary Information. To appear in Nature Scientific Reports