图神经网络中保持不变性的局部激活函数
信号处理
2020-02-19 v2 机器学习
神经与进化计算
摘要
图信号是以图描述其不规则结构的信号。图神经网络(GNNs)是专为这些图信号设计的信息处理架构,由将图卷积滤波器与非线性激活函数组合的堆叠层构成。图卷积赋予 GNN 对图节点标签置换的不变性。本文考虑设计考虑图结构的可训练非线性激活函数。这通过使用图中位数滤波器和图最大值滤波器实现,其模拟线性图卷积,并被证明保留 GNN 的置换不变性。我们还讨论了训练局部激活函数所需的反向传播算法修正。局部化激活函数架构的优势在四个数值实验中得到展示:合成图上的源定位、19世纪小说的作者归属、电影推荐系统和科学文章分类。在所有案例中,局部化激活函数均显示出提升模型容量。
引用
@article{arxiv.1903.12575,
title = {Invariance-Preserving Localized Activation Functions for Graph Neural Networks},
author = {Luana Ruiz and Fernando Gama and Antonio G. Marques and Alejandro Ribeiro},
journal= {arXiv preprint arXiv:1903.12575},
year = {2020}
}
备注
Accepted at TSP