具有广义因子化双线性聚合的图卷积网络
机器学习
2021-07-27 v1 人工智能
计算与语言
摘要
尽管图卷积网络（GCNs）已在各种应用中展示了其能力，但作为 GCN 最重要组件的图卷积层仍在使用线性变换和简单的池化步骤。在本文中，我们提出因子化双线性（FB）层的一种新颖泛化，以建模 GCN 中的特征交互。FB 执行两次矩阵-向量乘法，即权重矩阵与来自两侧的隐藏特征向量的外积相乘。然而，FB 层存在系数数量二次方增长、过拟合以及由于隐藏表示通道间相关性违反独立同分布假设而导致的伪相关的问题。因此，我们通过定义应用于二次型上的一组总结算子族，提出一种紧凑的 FB 层。我们分析了所提出的池化算子并论证其使用的动机。我们在多个数据集上的实验结果表明，GFB-GCN 在文本分类方面与其他方法具有竞争力。
引用
@article{arxiv.2107.11666,
title = {Graph Convolutional Network with Generalized Factorized Bilinear Aggregation},
author = {Hao Zhu and Piotr Koniusz},
journal= {arXiv preprint arXiv:2107.11666},
year = {2021}
}