图神经网络的前向-前向算法
机器学习
2023-02-13 v1 人工智能
摘要
我们提出图前向-前向（GFF）算法，作为前向-前向过程在图上的扩展，能够处理分布在图节点上的特征。这使得仅用前向传播训练图神经网络成为可能，无需反向传播。我们的方法对消息传递方案无关，并提供了比反向传播更具生物学合理性的学习方案，同时还具有计算优势。利用GFF，图神经网络以贪婪的逐层方式训练，使用正样本和负样本。我们在11个标准图属性预测任务上运行实验，展示GFF如何为训练图神经网络提供反向传播的有效替代方案。这尤其表明，尽管将逐层训练与GNN中处理的局部性相结合，该过程仍异常高效。
引用
@article{arxiv.2302.05282,
title = {Graph Neural Networks Go Forward-Forward},
author = {Daniele Paliotta and Mathieu Alain and Bálint Máté and François Fleuret},
journal= {arXiv preprint arXiv:2302.05282},
year = {2023}
}