通过Cross-Attentive Modulation tokens提高链接预测的全局感知
社会与信息网络
2024-09-23 v4 机器学习
摘要
本工作引入了Cross-Attentive Modulation(CAM)标记，这些标记的初始值是可学习的，经过跨注意力gather信息，并相应地调制节点和边。这些标记旨在改进基于图神经网络的链接预测模型的全局感知，因为这些模型在捕捉图层级特征方面存在困难。这种缺乏高级表征能力的能力在预测多个或整个链接集时尤其受限。我们在基于注意力的链接预测模型和图变换器中实现了CAM标记，其中我们也在去噪扩散框架中使用图变换器。随后将简要介绍我们的数据集，然后进行基准测试，证明CAM标记改进了所补充模型的性能，并超越了具有多样统计图属性的基线。
引用
@article{arxiv.2405.19375,
title = {Improving global awareness of linkset predictions using Cross-Attentive Modulation tokens},
author = {Félix Marcoccia and Cédric Adjih and Paul Mühlethaler},
journal= {arXiv preprint arXiv:2405.19375},
year = {2024}
}