用于深度 Average-K 分类的双头损失函数
机器学习
2023-04-03 v1 计算机视觉与模式识别
摘要
Average-K 分类是 top-K 分类的一种替代方案，其中返回标签的数量随输入图像的模糊性而变化，但在所有样本上必须平均到 K。解决该任务的一个简单方法是对以交叉熵损失训练的模型的 softmax 输出设定阈值。该方法在理论上被证明是渐近一致的，但不能保证对有限样本集最优。本文中，我们提出一种基于多标签分类头加之经典 softmax 的新损失函数。这第二个头使用通过对 softmax 头设阈值生成的伪标签进行训练，同时保证平均返回 K 个类。我们表明该方法使模型能更好地捕捉类间模糊性，从而返回更一致的可能类集合。在文献中两个数据集上的实验表明，我们的方法优于 softmax 基线，以及几种更通用地为弱监督多标签分类设计的损失函数。不确定性越高增益越大，尤其对于样本较少的类。
引用
@article{arxiv.2303.18118,
title = {A two-head loss function for deep Average-K classification},
author = {Camille Garcin and Maximilien Servajean and Alexis Joly and Joseph Salmon},
journal= {arXiv preprint arXiv:2303.18118},
year = {2023}
}