图神经网络的中值激活函数
机器学习
2019-02-12 v2 机器学习
摘要
图神经网络(GNNs)已被证明在许多涉及图的问题中复现了卷积神经网络(CNNs)的优越性能。通过用线性平移不变图滤波器(LSI-GFs)替代常规卷积,GNNs 考虑了图的(不规则)结构并提供了网络数据的有意义表示。然而,LSI-GFs 无法编码局部非线性图信号行为,常规的激活函数也是如此,它们是线性的但逐点作用。为解决此问题,我们提出了在图邻域而非单个节点上支持的中值激活函数。随后,带有该激活函数可训练多分辨率版本的 GNN 架构在合成和真实世界数据集上进行了测试,我们表明中值激活函数能以复杂度的边际增加提升 GNN 容量。
引用
@article{arxiv.1810.12165,
title = {Median activation functions for graph neural networks},
author = {Luana Ruiz and Fernando Gama and Antonio G. Marques and Alejandro Ribeiro},
journal= {arXiv preprint arXiv:1810.12165},
year = {2019}
}
备注
Submitted to ICASSP 2019