Fishnets：面向集合与图的信息最优可扩展聚合

基于集合的学习是现代深度学习和网络科学的重要组成部分。图神经网络（GNNs）及其无边对应物Deepsets已在参差不齐和拓扑具有挑战性的数据集上被证明非常有用。为集合成员学习信息丰富的嵌入的关键是指定的聚合函数，通常是求和、最大值或均值。我们提出Fishnets，一种用于为数据集合学习信息最优嵌入的聚合策略，适用于贝叶斯推断和图聚合。我们证明：i) Fishnets神经摘要可最优地扩展到任意数量的数据对象，ii) 与标准deepsets不同，Fishnets聚合对数据分布的变化具有鲁棒性，iii) Fishnets饱和贝叶斯信息内容并扩展到MCMC技术失效的 regime，iv) Fishnets可用作GNN中即插即用的聚合方案。我们表明，通过采用Fishnets聚合方案进行消息传递，GNN在ogbn-protein数据上相对于现有基准可用一小部分可学习参数和更快的训练时间实现相对于架构尺寸的SOTA性能。