图像分类在数据集漂移下的校准进展如何？
计算机视觉与模式识别
2025-10-23 v2 人工智能
摘要
我们对图像分类在真实世界数据集漂移下的校准状态进行了广泛而深入的研究。我们的工作为选择事后校准和训练期间校准技术提供了重要见解，并为所有关注在漂移下稳健校准的实践者提供了实用指南。我们比较了各种事后校准方法及其与常见训练期间校准策略（如标签平滑）之间的相互作用，在多个自然漂移情形下进行了八个不同分类任务的测试。我们发现：(i) 同时应用熵正则化和标签平滑可在数据集漂移下获得最佳校准的原始概率；(ii) 面向小量语义离群分布数据（与任务无关）的事后校准器在漂移下最稳健；(iii) 最近针对提高漂移下校准的校准方法并不一定在简单事后校准方法上提供显著改进；(iv) 在漂移下提高校准往往以牺牲在分布内校准为代价。重要的是，这些发现不仅适用于随机初始化的分类器，也适用于微调自然语言基础模型的分类器，后者相较于从头训练的模型校准性更好。最后，我们深入分析了集成的效果，发现：(i) 在集成前进行校准（而非集成后）在漂移下更有效；(ii) 对于集成模型，外向度暴露会恶化 ID-漂移校准权衡；(iii) 集成仍是提高校准稳健性的最有效方法之一，结合微调自然语言基础模型可实现整体最佳校准效果。
引用
@article{arxiv.2507.07780,
title = {Where are we with calibration under dataset shift in image classification?},
author = {Mélanie Roschewitz and Raghav Mehta and Fabio de Sousa Ribeiro and Ben Glocker},
journal= {arXiv preprint arXiv:2507.07780},
year = {2025}
}
备注
Code available at https://github.com/biomedia-mira/calibration_under_shifts. Published in TMLR, October 2025 (https://openreview.net/forum?id=1NYKXlRU2H)