基于局部传播的网络学习
机器学习
2018-05-22 v1 人工智能
神经与进化计算
机器学习
摘要
本文提出一种具有局部传播的局部解耦网络参数学习。考虑了三个要素:(i)描述所有节点上表示的非线性变换集合,(ii)每个节点上与相应局部表示目标相关的局部目标,以及(iii)将每个节点上的非线性误差向量与来自直接相连节点的目标误差向量相关联的局部传播模型。建模概念(i)、(ii)和(iii)提供了若干优势,包括(a)对任意以图表示的网络的统一学习原理,(b)对局部与全局学习动态的理解与解释,(c)解耦且并行的参数学习,(d)在无限长、多路径与多目标网络中学习的可能性。数值实验验证了该学习原理的潜力。初步结果显示,相较于最优方法,在学习时间与网络规模方面具有优势,同时具备可比的识别准确率。
引用
@article{arxiv.1805.07802,
title = {Network Learning with Local Propagation},
author = {Dimche Kostadinov and Behrooz Razeghi and Sohrab Ferdowsi and Slava Voloshynovskiy},
journal= {arXiv preprint arXiv:1805.07802},
year = {2018}
}
备注
preprint, a similar version submitted to NIPS 2018