光通信背景下深度神经网络超参数调优的新型次优方法
信号处理
2019-07-02 v1
摘要
超参数调优是机器学习(ML)算法的主要挑战。网格搜索是简单ML算法超参数调优中一种流行的方法；然而，在深度神经网络(DNN)等复杂ML算法中较高的计算复杂度是其实际实现的主要障碍。本文提出了两种新颖的次优网格搜索方法，它们分别以边缘方式和交替方式搜索网格。为了验证这些方法，将超参数调优应用于两种基于DNN的不同光通信(OC)系统(光纤OC和自由空间光(FSO)通信)。尽管ML算法的超参数调优十分重要，但在面向OC研究的ML中却被忽视。此外，这是首次在面向OC研究的ML中同时考虑FSO和光纤OC系统。结果表明，尽管大大降低了计算负载，所提方法仍能获得良好的性能。此外，交替搜索方法比边缘网格搜索方法具有更好的性能。总之，所提结构具有成本效益，适用于实时应用。
引用
@article{arxiv.1907.00036,
title = {Novel Suboptimal approaches for Hyperparameter Tuning of Deep Neural Network [under the shelf of Optical Communication]},
author = {M. A. Amirabadi},
journal= {arXiv preprint arXiv:1907.00036},
year = {2019}
}