图神经网络中信息传播的一种拉格朗日方法
机器学习
2020-04-20 v3 机器学习
摘要
在许多现实应用中，数据的结构复杂，可自然地编码为图。近年来，深度学习技术的流行重新激发了能够处理复杂模式的神经模型的研究兴趣。特别地，受图神经网络（GNN）模型的启发，人们提出了不同架构来扩展原始 GNN 框架。GNN 利用一组状态变量（每个分配给一个图节点）以及状态在相邻节点间的扩散机制，实现迭代过程以计算（可学习的）状态转移函数的不动点。在本文中，我们提出一种基于拉格朗日框架下约束优化任务的 GNN 状态计算与学习算法新方法。状态收敛过程由约束满足机制隐式表达，不需要在学习过程的每个 epoch 单独进行迭代阶段。事实上，计算结构基于在由权重、神经输出（节点状态）和拉格朗日乘子组成的伴随空间中搜索拉格朗日的鞍点。所提方法与其他流行的图处理模型进行了实验比较。
引用
@article{arxiv.2002.07684,
title = {A Lagrangian Approach to Information Propagation in Graph Neural Networks},
author = {Matteo Tiezzi and Giuseppe Marra and Stefano Melacci and Marco Maggini and Marco Gori},
journal= {arXiv preprint arXiv:2002.07684},
year = {2020}
}