测试时无代价似然操纵以在深度网络中犯更轻的错误
机器学习
2021-04-05 v1 计算机视觉与模式识别
摘要
构建深度层次感知分类器的兴趣日益增长，其旨在量化并减少错误的严重程度，而不仅仅是减少错误数量。其思想是利用标签层次结构（例如 WordNet 本体）并将图距离视为错误严重程度的代理。令人惊讶的是，在检查 top-1 预测的错误严重程度分布时，我们发现当前最先进的层次感知深度分类器在犯更轻错误方面并不总是比标准交叉熵基线显示出实际改进。平均错误严重程度的降低可归因于低严重程度错误的增加，这也可能解释其准确率明显下降的原因。为此，我们使用经典的基于条件风险最小化（CRM）框架进行层次感知分类。给定代价矩阵和似然的可靠估计（从训练好的网络获得），CRM 在推理时简单地修正错误；它不需要额外的超参数，并且只需向标准交叉熵基线添加几行代码。它显著优于最先进水平，并在多个数据集上持续获得 top- 预测的平均层次距离的大幅降低，且准确率损失极小。CRM 由于其简单性，可用于任何提供可靠似然估计的现成训练模型。
引用
@article{arxiv.2104.00795,
title = {No Cost Likelihood Manipulation at Test Time for Making Better Mistakes in Deep Networks},
author = {Shyamgopal Karthik and Ameya Prabhu and Puneet K. Dokania and Vineet Gandhi},
journal= {arXiv preprint arXiv:2104.00795},
year = {2021}
}