利用非参数激活函数改进图卷积网络
神经与进化计算
2018-02-27 v1 机器学习
机器学习
摘要
图神经网络(GNNs)是一类能够在对具有图结构关联的数据(例如引文网络或知识图谱)上高效执行推断的神经网络。尽管已提出若干 GNN 变体,它们仅在其层中考虑简单的非线性激活函数,如整流器或压缩函数。在本文中,我们研究了将图卷积网络(GCNs)与能够从训练数据中自适应的更复杂激活函数结合使用的情况。更具体地,我们扩展了最近提出的核激活函数,这是一种非参数模型,易于实现,可用标准 -范数技术正则化,且在其整个定义域上光滑。我们的实验评估表明,所提出的架构可显著优于其基线,而仅通过简单增加原始 GCN 的深度或规模无法获得类似改进。
引用
@article{arxiv.1802.09405,
title = {Improving Graph Convolutional Networks with Non-Parametric Activation Functions},
author = {Simone Scardapane and Steven Van Vaerenbergh and Danilo Comminiello and Aurelio Uncini},
journal= {arXiv preprint arXiv:1802.09405},
year = {2018}
}
备注
Submitted to EUSIPCO 2018