CoRGi：具有注意力机制的内容丰富图神经网络
机器学习
2021-10-12 v1
摘要
目标领域的图表示通常将其投影为一组实体（节点）及其关系（边）。然而，此类投影常遗漏重要而丰富的信息。例如，在用于缺失值填补的图表示中，作为节点表示的物品可能包含丰富的文本信息。但在使用图神经网络（GNN）处理图时，此类信息要么被忽略，要么被概括为单一向量表示用以初始化 GNN。为此，我们提出 CoRGi，一种在其邻居上下文中考虑节点内丰富数据的 GNN。这是通过赋予 CoRGi 的消息传递以针对每个节点内容的个性化注意力机制实现的。由此，CoRGi 针对物品内容中出现的词分配用户—物品特定的注意力分数。我们在两个边值预测任务上评估了 CoRGi，结果表明 CoRGi 在边值预测上优于现有方法，尤其在图的稀疏区域。
引用
@article{arxiv.2110.04866,
title = {CoRGi: Content-Rich Graph Neural Networks with Attention},
author = {Jooyeon Kim and Angus Lamb and Simon Woodhead and Simon Peyton Jones and Cheng Zheng and Miltiadis Allamanis},
journal= {arXiv preprint arXiv:2110.04866},
year = {2021}
}