超越图神经网络:基于提升关系神经网络的方法
机器学习
2021-10-22 v1 人工智能
计算机科学中的逻辑
神经与进化计算
摘要
我们展示了一种基于提升关系神经网络(Lifted Relational Neural Networks)语言的声明式可微编程框架,其中使用小型参数化逻辑程序来编码关系学习场景。当给定关系数据(如各种形式的图)时,程序解释器动态展开可微计算图,以供通过标准手段进行程序参数优化。源于所采用的声明式Datalog抽象,这产生了紧凑而优雅的学习程序,与现有直接在计算图层级操作的过程式方法形成对比。我们阐释了这一思想如何用于高效编码多种现有先进神经架构,特别关注图神经网络(GNNs)。此外,我们展示了如何将当代GNN模型轻易扩展至更高的关系表达性。在实验中,我们通过与专门的GNN深度学习框架对比展示了正确性与计算效率,同时揭示了现有GNN模型的一些学习性能。
引用
@article{arxiv.2007.06286,
title = {Beyond Graph Neural Networks with Lifted Relational Neural Networks},
author = {Gustav Sourek and Filip Zelezny and Ondrej Kuzelka},
journal= {arXiv preprint arXiv:2007.06286},
year = {2021}
}
备注
Submitted to MLJ's Special Track on Learning and Reasoning (May 15th 2020 cut-off) http://lr2020.iit.demokritos.gr/