超球面原型网络
机器学习
2019-10-28 v3 机器学习
摘要
本文提出超球面原型网络,其在超球面输出空间上以原型统一分类与回归。对于分类,一种常见方法是将原型定义为每类训练样本的平均输出向量。在此,我们提出使用超球面作为输出空间,并以大间隔分离先验定义类原型。我们通过数据无关优化来定位原型,并扩展以融入来自类语义的先验。通过这样做,我们不需要任何原型更新,可以处理任意训练规模,且输出维度不再受类别数约束。此外,我们通过将输出优化为超球面上两个原型之间的插值,推广到回归。由于两个任务现在由相同的损失函数定义,它们可以联合训练以处理多任务问题。在实验上,我们展示了超球面原型网络在分类、回归及其组合上相对于其他原型方法、softmax 交叉熵和均方误差方法的优势。
引用
@article{arxiv.1901.10514,
title = {Hyperspherical Prototype Networks},
author = {Pascal Mettes and Elise van der Pol and Cees G. M. Snoek},
journal= {arXiv preprint arXiv:1901.10514},
year = {2019}
}
备注
NeurIPS 2019