在类不平衡与新类约束下演化图上的终身学习
机器学习
2023-05-10 v2
摘要
终身图学习致力于使图神经网络（GNN）模型持续适应演化图中的变化。我们在本工作中解决终身图学习的两个关键挑战：处理新类与应对不平衡类分布。这两大挑战的结合尤为现实，因为新出现的类通常仅占数据的极小部分，加剧了本已偏斜的类分布。我们做出若干贡献：首先，我们表明未标记数据量不影响结果，这是基于任务序列进行终身学习的重要前提。其次，我们尝试不同标注率并表明所提方法仅用极少比例的有标注节点即可表现良好。第三，我们提出gDOC方法，在类不平衡分布约束下检测新类。其关键要素是一个加权二元交叉熵损失函数以应对类不平衡。此外，我们展示了gDOC与多种基础GNN模型（如GraphSAGE、简化图卷积与图注意力网络）的组合。最后，我们的k邻域时间差度量可证明地归一化不同图数据集间的时间变化。通过大量实验，我们发现所提gDOC方法始终优于将DOC朴素适配到图上的做法。具体而言，在使用最小历史规模的实验中，gDOC的分布外检测得分为0.09，而DOC为0.01。此外，gDOC取得了Open-F1得分（一种分布内分类与分布外检测的综合度量）0.33，而DOC为0.25（提升32%）。
引用
@article{arxiv.2112.10558,
title = {Lifelong Learning on Evolving Graphs Under the Constraints of Imbalanced Classes and New Classes},
author = {Lukas Galke and Iacopo Vagliano and Benedikt Franke and Tobias Zielke and Marcel Hoffmann and Ansgar Scherp},
journal= {arXiv preprint arXiv:2112.10558},
year = {2023}
}
备注
Accepted manuscript (after peer review, before copy-editing). Published article available at https://doi.org/10.1016/j.neunet.2023.04.022