拉普拉斯正则化少样本学习
机器学习
2021-04-29 v3 计算机视觉与模式识别
机器学习
摘要
我们提出一种用于少样本任务的转导式拉普拉斯正则化推断。给定从基类中学习到的任意特征嵌入，我们最小化一个二次二元分配函数，该函数包含两项：（1）将查询样本分配给最近类原型的 unary 项；（2）鼓励邻近查询样本具有一致标签分配的成对拉普拉斯项。我们的转导式推断不重新训练基模型，可视为查询集在支持集监督约束下的图聚类。我们推导了该函数松弛形式的计算高效边界优化器，其对每个查询样本计算独立（并行）更新，同时保证收敛。在基类上经过简单的交叉熵训练、且无需复杂元学习策略的情况下，我们在五个少样本学习基准上进行了全面实验。我们的 LaplacianShot 在不同模型、设置与数据集上始终以显著优势优于 SOTA 方法。此外，我们的转导式推断非常快速，计算时间接近归纳式推断，可用于大规模少样本任务。
引用
@article{arxiv.2006.15486,
title = {Laplacian Regularized Few-Shot Learning},
author = {Imtiaz Masud Ziko and Jose Dolz and Eric Granger and Ismail Ben Ayed},
journal= {arXiv preprint arXiv:2006.15486},
year = {2021}
}
备注
ICML 2020 paper