每个错误标签都有其独特的错误方式：通过对数双线性损失控制错误类型
机器学习
2017-04-21 v1 机器学习
摘要
近年来，深度学习已成为机器学习许多应用领域尤其是多类分类任务中的首选方法。在此背景下最常用的损失函数是交叉熵损失，在仅有单个正确响应标签的典型情况下其退化为对数损失。虽然该损失在误分类情况下对分配类别的标识不敏感，但实际上往往某些错误可能比其他错误更具危害性。在此我们提出双线性损失（及相关的对数双线性损失），它对模型的不同错误分配进行差异化惩罚。我们使用标准模型和基准图像数据集对该方法进行了充分测试。作为一个应用，我们展示了该方法能够在层级标记的CIFAR100数据集中更好地将错误限制在正确的超类中，且不影响分类器的整体性能。
引用
@article{arxiv.1704.06062,
title = {Every Untrue Label is Untrue in its Own Way: Controlling Error Type with the Log Bilinear Loss},
author = {Yehezkel S. Resheff and Amit Mandelbaum and Daphna Weinshall},
journal= {arXiv preprint arXiv:1704.06062},
year = {2017}
}