SimLoss：交叉熵中的类相似性
机器学习
2020-03-09 v1 机器学习
摘要
神经网络分类任务中一种常见的损失函数是分类交叉熵（CCE），它对所有误分类一视同仁地惩罚。然而，类别往往具有内在结构。例如，将玫瑰图像分类为“紫罗兰”优于分类为“卡车”。我们提出 SimLoss，一种可即插即用地替代 CCE 的损失，它结合了类相似性以及从特定任务知识构建此类矩阵的两种技术。我们在年龄估计和图像分类上测试 SimLoss，发现其在多项指标上相较 CCE 带来显著提升。因此，SimLoss 允许通过简单替换损失函数、保持神经网络架构不变来显式建模背景知识。代码与附加资源见 https://github.com/konstantinkobs/SimLoss。
引用
@article{arxiv.2003.03182,
title = {SimLoss: Class Similarities in Cross Entropy},
author = {Konstantin Kobs and Michael Steininger and Albin Zehe and Florian Lautenschlager and Andreas Hotho},
journal= {arXiv preprint arXiv:2003.03182},
year = {2020}
}
备注
This paper is going to be published in the proceedings of the 25th International Symposium on Methodologies for Intelligent Systems (ISMIS)