Bridged-GNN：面向有效知识迁移的知识桥学习
机器学习
2023-08-21 v1
摘要
以数据不足和低质量为特征的数据饥渴问题给深度学习模型带来了障碍。迁移学习一直是将源域高质量外部数据的知识迁移到目标域有限数据的可行途径，其遵循域级知识迁移以学习共享后验分布。然而，它们通常建立在强假设之上，例如域不变后验分布，这通常无法满足并可能引入噪声，导致在目标域上泛化能力较差。受图神经网络(GNNs)从邻近节点聚合信息的启发，我们将范式重新定义为学习目标域的知识增强后验分布，即知识桥学习(KBL)。KBL首先通过构建将知识样本连接到每个目标样本的桥接图来学习知识迁移的范围，然后通过GNNs执行样本级知识迁移。KBL不受强假设限制，且对源数据中的噪声具有鲁棒性。在KBL指导下，我们提出Bridged-GNN，包括用于构建桥接图的自适应知识检索模块和图知识迁移模块。在关系与非关系数据饥渴场景上的综合实验表明，与SOTA方法相比Bridged-GNN有显著提升。
引用
@article{arxiv.2308.09499,
title = {Bridged-GNN: Knowledge Bridge Learning for Effective Knowledge Transfer},
author = {Wendong Bi and Xueqi Cheng and Bingbing Xu and Xiaoqian Sun and Li Xu and Huawei Shen},
journal= {arXiv preprint arXiv:2308.09499},
year = {2023}
}
备注
Accepted by CIKM2023