用于类别图上弱监督少样本学习的原型传播网络（PPN）
机器学习
2019-06-04 v2 计算机视觉与模式识别
神经与进化计算
机器学习
摘要
多种机器学习应用期望能从少量标注数据实现快速学习。然而，当前多数模型的成功源于在大数据上的大量训练。元学习通过提取跨不同任务的共性知识来解决该问题，这些知识可快速适配新任务。但它们未充分挖掘弱监督信息，而此类信息通常可免费或低成本收集。本文中，我们表明弱标签数据能显著提升元学习在少样本分类上的性能。我们提出原型传播网络（PPN），其在少样本任务上与粗标签标注的数据一同训练。给定目标细类与若干弱标签粗类的类别图，PPN 学习一种注意力机制，在图上将一类的原型传播至另一类，从而使得定义于传播后原型上的 K 近邻（KNN）分类器在不同少样本任务上取得高准确率。训练任务通过子图采样生成，训练目标由子图上逐层分类损失累加得到。所得原型图可针对新任务与新类持续复用并更新。我们还引入了两种实用的测试/推理设定，其区别在于测试任务是否能如训练般利用任何弱监督信息。在两个基准上，PPN 在不同设定下显著优于近期多数少样本学习方法，即便它们也被允许在弱标签数据上训练。
引用
@article{arxiv.1905.04042,
title = {Prototype Propagation Networks (PPN) for Weakly-supervised Few-shot Learning on Category Graph},
author = {Lu Liu and Tianyi Zhou and Guodong Long and Jing Jiang and Lina Yao and Chengqi Zhang},
journal= {arXiv preprint arXiv:1905.04042},
year = {2019}
}
备注
Accepted to IJCAI 2019, Code is publicly available at: https://github.com/liulu112601/PPN