用于 Omniglot 小样本学习的高斯原型网络
机器学习
2017-08-10 v1 计算机视觉与模式识别
神经与进化计算
机器学习
摘要
我们提出了一种用于 Omniglot 数据集上 -shot 分类的全新架构。基于原型网络，我们将其架构扩展为我们所说的高斯原型网络。原型网络学习图像与嵌入向量之间的映射，并利用其聚类进行分类。在我们的模型中，编码器输出的一部分被解释为关于嵌入点的置信区域估计，并表示为高斯协方差矩阵。然后，我们的网络在嵌入空间上构建一个方向和类别相关的距离度量，使用各个数据点的不确定性作为权重。我们表明，在参数数量相同的情况下，高斯原型网络是比普通原型网络更优的架构。我们在 Omniglot 数据集上报告了 1-shot 和 5-shot 分类在 5-way 和 20-way 机制下的 SOTA 性能（对于 5-shot 5-way，我们与之前的 SOTA 相当）。我们探索了对训练集中的一部分图像进行人工下采样，这进一步提高了我们的性能。因此，我们假设高斯原型网络在不太均匀、噪声较大的数据集中可能表现更好，而这在现实应用中很常见。
引用
@article{arxiv.1708.02735,
title = {Gaussian Prototypical Networks for Few-Shot Learning on Omniglot},
author = {Stanislav Fort},
journal= {arXiv preprint arXiv:1708.02735},
year = {2017}
}