图少样本类增量学习
机器学习
2021-12-28 v1
摘要
增量学习新类的能力对所有现实人工智能系统至关重要。社交媒体、推荐系统、电子商务平台等大量高影响应用均可由图模型表示。本文中,我们研究了一个具有挑战性且实用的问题:图少样本类增量(Graph FCL)问题,其中图模型需对既遇新类与已学旧类进行分类。为此,我们提出一种图伪增量学习范式,通过从基类反复采样任务,从而为模型生成任意数量的训练回合以练习增量学习技能。此外,我们设计了一个基于层次注意力的图元学习框架HAG-Meta。我们提出了由任务级注意力与节点类原型计算的任务敏感正则化项,以缓解对新类或基类的过拟合。为利用拓扑知识,我们添加了节点级注意力模块来调整原型表示。我们的模型不仅实现对旧知识巩固的更高稳定性,还以极少数据样本获得对新知识的有利适应性。在Amazon-clothing、Reddit和DBLP三个真实数据集上的大量实验表明,我们的框架相较基线与其他相关SOTA方法具有显著优势。
引用
@article{arxiv.2112.12819,
title = {Graph Few-shot Class-incremental Learning},
author = {Zhen Tan and Kaize Ding and Ruocheng Guo and Huan Liu},
journal= {arXiv preprint arXiv:2112.12819},
year = {2021}
}
备注
Accepted to WSDM 2022