超参数对神经网络SGD训练的影响
神经与进化计算
2015-08-13 v1 机器学习
摘要
神经网络分类器的性能由许多超参数决定，包括学习率、批大小和网络深度。文献中已做出许多尝试来探索这些参数，有时也开发优化它们的方法。然而，对参数空间的探索常常有限。在本短文中，我报告了探索这些不同参数及其相互作用的大规模实验结果。
引用
@article{arxiv.1508.02788,
title = {The Effects of Hyperparameters on SGD Training of Neural Networks},
author = {Thomas M. Breuel},
journal= {arXiv preprint arXiv:1508.02788},
year = {2015}
}