将曲率引入标签空间
机器学习
2018-10-24 v1 机器学习
摘要
独热编码是一种将类别嵌入为标签空间中标准基向量的标注系统。尽管在监督式分类任务中近乎通用，该方案在几何含义上存在问题：由于所有类别等距，意味着所有类别同等不同。由于祖先与趋同关系的普遍存在导致各类别间形态相似性程度不一，这与绝大多数（即便不是全部）真实世界任务不一致。我们通过使用度量张量将曲率引入标签空间来解决此问题，作为一种自调节方法，以与学习算法无关的附加方案更好地表示这些关系。我们提出了度量的一般约束与具体统计参数化，并指出了使用基于自编码器的参数化的未来研究方向。
引用
@article{arxiv.1810.09549,
title = {Introducing Curvature to the Label Space},
author = {Conor Sheehan and Ben Day and Pietro Liò},
journal= {arXiv preprint arXiv:1810.09549},
year = {2018}
}
备注
Under review as a workshop paper at MetaLearn, NIPS 2018, 4 pages, 2 figures