互信息衰减曲线与循环神经架构的超参数网格搜索设计
机器学习
2020-12-09 v1 信息论
math.IT
摘要
我们提出了一种为循环神经架构设计超参数优化网格搜索的方法。该方法的基础是利用互信息分析数据集内的长距离依赖（LDD）。我们还报告了一系列实验，证明通过使用该方法，我们在多个基准数据集上为 DilatedRNN 取得了最先进的结果。
引用
@article{arxiv.2012.04632,
title = {Mutual Information Decay Curves and Hyper-Parameter Grid Search Design for Recurrent Neural Architectures},
author = {Abhijit Mahalunkar and John D. Kelleher},
journal= {arXiv preprint arXiv:2012.04632},
year = {2020}
}
备注
Published at the 27th International Conference on Neural Information Processing, ICONIP 2020, Bangkok, Thailand, November 18-22, 2020. arXiv admin note: text overlap with arXiv:1810.02966