中文

FewShotTextGCN:用于图少样本学习的 K-hop 邻域正则化

计算与语言 2023-02-07 v2 机器学习

摘要

我们提出 FewShotTextGCN,一种新颖的方法,旨在有效利用词-文档图的属性以在低资源环境下改进学习。我们引入 K-hop 邻域正则化,一种面向异构图的正则化器,并表明当仅有少量训练样本可用时,它能稳定并改进学习。此外,我们提出了图构建方法的一种简化,其得到的图密度降低约 7 倍,并在少资源设置下取得更好性能,同时在高资源设置下与当前最优(SOTA)表现相当。最后,我们引入一种适用于词-文档图的 Adaptive Pseudo-Labeling 的新变体。当仅使用 20 个样本进行训练时,我们在八种语言上平均以 17% 的绝对准确率优于一个强 TextGCN 基线。我们证明,我们的方法可应用于文档分类,无需任何语言模型预训练,涵盖一系列类型学上多样的语言,同时与大型预训练语言模型表现相当。

关键词

引用

@article{arxiv.2301.10481,
  title  = {FewShotTextGCN: K-hop neighborhood regularization for few-shot learning on graphs},
  author = {Niels van der Heijden and Ekaterina Shutova and Helen Yannakoudakis},
  journal= {arXiv preprint arXiv:2301.10481},
  year   = {2023}
}

备注

8 pages, 4 figures, EACL 2023