HyperShot:基于核超网络的少样本学习
机器学习
2022-03-23 v1 人工智能
计算机视觉与模式识别
摘要
少样本模型旨在利用给定任务中极少数量的标注样本进行预测。该领域的主要挑战是一样本设定,即每个类别仅由一个样本代表。我们提出 HyperShot——核方法与超网络范式的融合。与采用基于梯度的参数调整的参考方法相比,我们的模型旨在根据任务嵌入切换分类模块的参数。在实践中,我们利用超网络,其接收来自支持数据的聚合信息并返回为所考虑问题定制的分类器参数。此外,我们引入传递给超网络的支持样本的基于核的表示,以生成分类模块的参数。因此,我们依赖于支持样本嵌入之间的关系,而非骨干模型提供的直接特征值。得益于该方法,我们的模型能够适应差异极大的任务。
引用
@article{arxiv.2203.11378,
title = {HyperShot: Few-Shot Learning by Kernel HyperNetworks},
author = {Marcin Sendera and Marcin Przewięźlikowski and Konrad Karanowski and Maciej Zięba and Jacek Tabor and Przemysław Spurek},
journal= {arXiv preprint arXiv:2203.11378},
year = {2022}
}