提升关系神经网络
人工智能
2015-10-14 v2 机器学习
神经与进化计算
摘要
我们提出了一种将关系逻辑表示与神经网络学习相结合的方法。一种通用的提升架构(可能反映某些背景领域知识)通过关系规则来描述,这些规则可以是人工设计的或学习得到的。关系规则集作为展开可能为深度神经网络的模板,其结构也反映了给定训练或测试关系样本的结构。对应于不同样本的不同网络共享权重,这些权重在训练过程中通过随机梯度下降算法共同演化。该框架允许层次化关系建模构造,并通过对应于规则的共享隐层权重学习潜在关系概念。对显著关系概念的发现以及在 78 个关系学习基准上的实验证明了该方法的良好性能。
引用
@article{arxiv.1508.05128,
title = {Lifted Relational Neural Networks},
author = {Gustav Sourek and Vojtech Aschenbrenner and Filip Zelezny and Ondrej Kuzelka},
journal= {arXiv preprint arXiv:1508.05128},
year = {2015}
}
备注
Expanded section on weight learning, added explanation of relationship to convolutional neural networks