中文

神经图机器:利用图学习神经网络

机器学习 2017-03-16 v1 神经与进化计算

摘要

标签传播是图上一种强大且灵活的半监督学习技术。而神经网络在许多监督学习任务中已被证明卓有成效。本文中,我们提出一种带有图正则化目标的训练框架,即“Neural Graph Machines”,其能结合神经网络与标签传播的力量。该工作推广了先前关于神经网络图增强训练的文献,使其可应用于多种神经架构(前馈神经网络、CNNs 和 LSTM RNNs)以及广泛的图。新目标使神经网络能够利用有标签与无标签数据:(a) 允许网络像监督设置中那样使用有标签数据训练;(b) 偏置网络以学习图上相邻节点的相似隐藏表示,与标签传播如出一辙。带有该目标的此类架构可使用随机梯度下降高效训练,并扩展到大型图,其运行时间与边数呈线性关系。所提出的联合训练方法在广泛任务(社交图上的多标签分类、新闻分类、文档分类和语义意图分类)上令人信服地优于许多现有方法,且支持多种图输入形式(包括有和无节点级特征的图)并使用不同类型的神经网络。

关键词

引用

@article{arxiv.1703.04818,
  title  = {Neural Graph Machines: Learning Neural Networks Using Graphs},
  author = {Thang D. Bui and Sujith Ravi and Vivek Ramavajjala},
  journal= {arXiv preprint arXiv:1703.04818},
  year   = {2017}
}

备注

9 pages