中文

图神经网络的广义f-均值聚合

机器学习 2023-10-11 v2

摘要

图神经网络(GNN)架构由其更新模块和聚合模块的实现所定义。尽管许多工作聚焦于参数化更新模块的新方法,聚合模块受到的关注相对较少。由于难以对聚合函数进行参数化,目前大多数方法选择“标准聚合器”,如mean\mathrm{mean}sum\mathrm{sum}max\mathrm{max}。虽然这种选择常常毫无依据,但已有研究表明聚合器的选择对性能有显著影响,且最佳聚合器依赖于具体问题。由于聚合是一种有损操作,为最小化信息损失,选择最合适的聚合器至关重要。本文提出GenAgg,一种广义聚合算子,它参数化了一个包含所有标准聚合器的函数空间。在实验中,我们表明GenAgg能够以远高于基线方法的精度表示标准聚合器。我们还表明,在GNN中将GenAgg作为现有聚合器的直接替换,常能在各类任务中带来显著的性能提升。

关键词

引用

@article{arxiv.2306.13826,
  title  = {Generalised f-Mean Aggregation for Graph Neural Networks},
  author = {Ryan Kortvelesy and Steven Morad and Amanda Prorok},
  journal= {arXiv preprint arXiv:2306.13826},
  year   = {2023}
}