广义扩张神经网络
机器学习
2019-05-09 v1 机器学习
摘要
众所周知,原始卷积神经网络不仅在图像识别任务中,而且在自然语言处理和时间序列分析中均提供优越性能。卷积层的一个优势是使用各种参数化卷积核学习输入域中空间关系特征的能力。然而,在时间序列分析中,学习此类空间关系不一定必要或有效。在此类情况下,如扩张核所提议的,建模时间依赖性的核或具有更宽空间分辨率的核被推荐用于更高效的训练。然而,扩张率必须事先固定,这限制了核的灵活性。我们提出广义扩张网络,从两个方面推广初始扩张。首先,我们推导出一种端到端可学习的扩张层架构,其中扩张率也可被学习。其次,我们打破严格的扩张结构,即开发出在输入空间中独立操作的核。
引用
@article{arxiv.1905.02961,
title = {Generalized Dilation Neural Networks},
author = {Gavneet Singh Chadha and Jan Niclas Reimann and Andreas Schwung},
journal= {arXiv preprint arXiv:1905.02961},
year = {2019}
}