单向原型网络
机器学习
2019-06-04 v1 机器学习
摘要
少样本模型在过去几年已成为热门研究课题。它们提供了仅用每类少量样本即可确定未见示例类别归属的可能。此类模型在广泛类别及其相应样本上训练,在此过程中学习决策度量。少样本模型类型包括匹配网络和原型网络。我们展示了一种仅针对单一类别训练原型少样本模型的新方法。这些模型能够在无任何给定反例的情况下,预测未见查询属于一组示例的可能性。此处难点在于无法通过 softmax 计算到其他类别的相对距离。我们通过引入以零为中心的“空类”并利用批归一化强制中心化解决了该问题。在常用 Omniglot 数据集上训练,我们在匹配测试集上获得 0.98 的分类准确率,在非匹配 MNIST 数据上获得 0.8 的准确率。在更复杂的 MiniImageNet 数据集上,测试准确率为 0.8。此外,我们提出了一种用于原型网络中距离计算的新颖高斯层,其考虑了支持样本的分布而非仅其质心。当可用支持样本数量较多时,该扩展展现出有前景的结果。
引用
@article{arxiv.1906.00820,
title = {One-Way Prototypical Networks},
author = {Anna Kruspe},
journal= {arXiv preprint arXiv:1906.00820},
year = {2019}
}