设施选址效用在揭示分类器过度自信中的应用

在缺乏带标签测试数据集的情况下，评估黑盒分类器的预测准确性具有挑战性。在这些场景中，我们可能需要依赖人类预言机来评估单个预测；这就提出了创建查询算法以引导搜索能提供关于分类器预测特征最多信息的点的挑战。先前的工作集中于开发效用模型和查询算法来发现未知未知——即预测置信度高于某任意阈值的误分类。然而，如果误分类发生的速率与置信度值所反映的一致，那么这些搜索方法仅能揭示对预测确定性的恰当评估，别无他物。当模型对预测的置信度超过实际模型准确率时，我们无法妥善缓解与模型缺陷相关的风险。我们提出了一种设施选址效用模型及相应的贪心查询算法，转而搜索过度自信的未知未知。通过稳健的经验实验，我们证明采用设施选址效用模型的贪心查询算法在发现过度自信的未知未知方面，始终比先前方法具有更优的预言机查询性能。