通过高阶任务亲和度提升图上的多任务学习

在给定图上预测节点标签是一个被广泛研究的问题,具有诸多应用,包括社区检测与分子图预测。本文考虑同时在图上预测多个节点标注函数,并从多任务学习视角重新审视该问题。作为一个具体例子,考虑重叠社区检测:每个社区成员关系是一个二值节点分类任务。由于复杂的重叠模式,我们发现当将朴素多任务学习应用于多个社区检测时,负迁移普遍存在,因为任务关系在不同节点标注间高度非线性。为应对该挑战,我们开发了一种基于高阶任务亲和度度量将任务聚类为组的算法。随后我们在每个任务组上拟合多任务模型,形成基线模型之上的提升过程。我们将两个任务间的高阶任务亲和度估计为一个任务在另一任务及随机子集其他任务存在下的预测损失。然后,我们对亲和度得分矩阵使用谱聚类以识别任务分组。我们设计了若干加速技术以高效计算高阶亲和度得分,并表明它们比成对任务亲和度能更准确地预测负迁移。我们使用多种社区检测与分子图预测数据集验证我们的过程,显示出优于现有方法的结果。最后,我们提供理论分析表明,在图任务的植入块模型下,我们的亲和度得分可证明地将任务分离为组。