图神经网络的广义f-均值聚合
机器学习
2023-10-11 v2
摘要
图神经网络(GNN)架构由其更新模块和聚合模块的实现所定义。尽管许多工作聚焦于参数化更新模块的新方法,聚合模块受到的关注相对较少。由于难以对聚合函数进行参数化,目前大多数方法选择“标准聚合器”,如、或。虽然这种选择常常毫无依据,但已有研究表明聚合器的选择对性能有显著影响,且最佳聚合器依赖于具体问题。由于聚合是一种有损操作,为最小化信息损失,选择最合适的聚合器至关重要。本文提出GenAgg,一种广义聚合算子,它参数化了一个包含所有标准聚合器的函数空间。在实验中,我们表明GenAgg能够以远高于基线方法的精度表示标准聚合器。我们还表明,在GNN中将GenAgg作为现有聚合器的直接替换,常能在各类任务中带来显著的性能提升。
引用
@article{arxiv.2306.13826,
title = {Generalised f-Mean Aggregation for Graph Neural Networks},
author = {Ryan Kortvelesy and Steven Morad and Amanda Prorok},
journal= {arXiv preprint arXiv:2306.13826},
year = {2023}
}