利用带符号约束权重的整流网络的分层凸性
机器学习
2017-11-16 v1 人工智能
摘要
通过引入权重的符号约束，本文提出符号约束整流网络（SCRNs），其训练可由著名的主化最小化（MM）算法高效求解。我们证明所提出的两隐藏层SCRNs（其在第二隐藏层具有负权重且在输出层具有负权重）能够分离任意两个（或更多）不相交模式集。此外，所提出的两隐藏层SCRNs可将每类模式的图案分解为若干簇，使得每簇与来自其他类的所有图案凸可分。这为学习图案结构并分析不同类图案间的判别因素提供了手段。
引用
@article{arxiv.1711.05627,
title = {Exploiting Layerwise Convexity of Rectifier Networks with Sign Constrained Weights},
author = {Senjian An and Farid Boussaid and Mohammed Bennamoun and Ferdous Sohel},
journal= {arXiv preprint arXiv:1711.05627},
year = {2017}
}
备注
11 pages