卷积神经网络的凸松弛
机器学习
2019-01-03 v1 机器学习
摘要
我们针对输出权重固定的单隐藏层卷积神经网络提出凸松弛方法。对于修正线性单元等凸激活函数,该松弛是凸二阶锥规划,可非常高效地求解。我们证明,在植入模型假设下,给定足够多来自高斯分布的训练样本,该松弛能恢复全局最小值。我们还识别出该松弛在恢复全局最小值时的相变现象。
引用
@article{arxiv.1901.00035,
title = {Convex Relaxations of Convolutional Neural Nets},
author = {Burak Bartan and Mert Pilanci},
journal= {arXiv preprint arXiv:1901.00035},
year = {2019}
}