面向异构图上分布外泛化的少样本因果表示学习
机器学习
2024-04-17 v3 人工智能
摘要
异构图表征学习(HGFL)已被开发用于解决异构图中标签稀疏的问题,异构图由多种类型的节点和边组成。HGFL的核心概念是从源异构图中具有丰富标签的类别中提取知识,将这些知识迁移到目标异构图中以促进使用少量标记训练数据学习新类别,并最终对未标记的测试数据进行预测。现有方法通常假设源异构图、训练数据和测试数据都服从相同的分布。然而,在实践中,由于两个原因,这三类数据之间的分布偏移是不可避免的:(1)与目标异构图分布匹配的源异构图的可用性有限;(2)目标异构图的不可预测的数据生成机制。这种分布偏移导致现有方法中知识迁移无效和学习性能差,从而引出了HGFL中分布外泛化的新问题。为了解决这一具有挑战性的问题,我们提出了一种新颖的因果分布外异构图少样本学习模型,即COHF。在COHF中,我们首先用结构因果模型刻画异构图中的分布偏移,为HGFL中的分布外泛化建立不变性原理。然后,遵循这一不变性原理,我们提出了一种新的基于变分自编码器的异构图神经网络,以减轻分布偏移的影响。最后,通过将该网络与新颖的元学习框架相结合,COHF有效地将知识迁移到目标异构图,以使用少量标记数据预测新类别。在七个真实世界数据集上的大量实验表明,COHF的性能优于最先进的方法。
引用
@article{arxiv.2401.03597,
title = {Few-Shot Causal Representation Learning for Out-of-Distribution Generalization on Heterogeneous Graphs},
author = {Pengfei Ding and Yan Wang and Guanfeng Liu and Nan Wang and Xiaofang Zhou},
journal= {arXiv preprint arXiv:2401.03597},
year = {2024}
}