基于深度张量分解的卷积神经网络端到端学习
机器学习
2018-05-18 v1 最优化与控制
机器学习
摘要
本文研究深度卷积神经网络权值的学习问题。我们考虑这样一种网络：每一层中对非重叠图像块进行卷积，且每层仅使用单一卷积核。我们提出了一种从训练数据中同时学习所有卷积核的算法。该方法称为深度张量分解（DeepTD），基于秩-1张量分解。我们在可实现的训练数据模型下对DeepTD进行理论分析，其中输入从高斯分布中独立同分布地选取，标签由预设的卷积核生成。我们证明DeepTD具有数据高效性，并且只要样本量超过网络中卷积权值的总数，该方法即可证明有效。我们进行了大量数值实验以探究DeepTD的有效性并验证我们的理论发现。
引用
@article{arxiv.1805.06523,
title = {End-to-end Learning of a Convolutional Neural Network via Deep Tensor Decomposition},
author = {Samet Oymak and Mahdi Soltanolkotabi},
journal= {arXiv preprint arXiv:1805.06523},
year = {2018}
}
备注
29 pages, 12 figures