中文

直推式线性探测:一种用于少样本节点分类的新框架

机器学习 2022-12-13 v1

摘要

少样本节点分类的任务是对仅具有少量代表性标注节点的新类别节点提供准确预测。该问题因其在现实应用中的投射而备受关注,例如电商平台上新增商品类别记录稀少时的商品分类,或患者相似图上罕见疾病的诊断。为解决非欧几里得图域中此类具有挑战性的标签稀缺问题,元学习已成为一种成功且主导的范式。近来,受图自监督学习发展的启发,迁移预训练节点嵌入用于少样本节点分类可能成为元学习的一种有前景的替代方案,但尚未被揭示。在本工作中,我们通过实验证明了一种替代框架——直推式线性探测(Transductive Linear Probing)的潜力,该框架迁移由图对比学习方法学到的预训练节点嵌入。我们进一步将少样本节点分类的设置从标准全监督扩展到一个更现实的自监督设置,在该设置下由于训练类别监督的缺乏,元学习方法难以轻易部署。令人惊讶的是,即使没有任何真实标签,采用自监督图对比预训练的直推式线性探测在相同协议下可以优于最先进(SOTA)的基于全监督元学习的方法。我们希望本工作能为少样本节点分类问题提供新的思路,并促进未来关于图上稀缺标注实例学习的研究。

关键词

引用

@article{arxiv.2212.05606,
  title  = {Transductive Linear Probing: A Novel Framework for Few-Shot Node Classification},
  author = {Zhen Tan and Song Wang and Kaize Ding and Jundong Li and Huan Liu},
  journal= {arXiv preprint arXiv:2212.05606},
  year   = {2022}
}

备注

Accepted to the First Learning on Graph Conference (LoG 2022)