标签噪声下深度嵌入损失的理保证
机器学习
2019-01-03 v2 计算机视觉与模式识别
摘要
收集标注数据来训练深度神经网络代价高昂，且对许多任务而言甚至不切实际。因此，研究力量集中于自动整理的数据集或无监督与弱监督学习。这些方向中的共同问题是在不可靠标签信息下学习。在本文中，我们探讨深度嵌入学习损失对标签噪声的容忍度，即当观测标签与真实标签不同时的情况。具体而言，我们为两种常见损失函数：边缘损失（marginal loss）与三元组损失（triplet loss）提供了获得理论保证的充分条件。由这些理论结果，我们可以估计采样策略与初始化如何影响对标签噪声的抵抗水平。该分析亦有助于在无监督与弱监督深度嵌入学习中提供更为有效的指导方针。
引用
@article{arxiv.1812.02676,
title = {Theoretical Guarantees of Deep Embedding Losses Under Label Noise},
author = {Nam Le and Jean-Marc Odobez},
journal= {arXiv preprint arXiv:1812.02676},
year = {2019}
}