重新思考早退出神经网络的校准
机器学习
2026-05-28 v3
摘要
早退出神经网络 (EENNs) 通过允许中间分类器在预测足够确定后停止计算来加速推理。大多数方法依赖置信阈值进行退出，因而普遍假设提高分类器校准会改善性能。在本工作中，我们挑战了这一假设，表明仅凭校准不足以使 EENNs 利用自适应计算。为此，我们引入了早期退出失效预测 (Early-Exit Failure Prediction, EEFP)，该方法同时考虑预测正确性和进一步计算成本。我们还提出了一种轻量级的、以 EEFP 为灵感的改进中间分类器的程序，可直接取代 EENNs 中的校准。广泛的实验表明，我们的方法在成本-精度权衡方面优于校准方法，且 EEFP 更可靠地反映整体 EENN 性能。我们的代码已公开于 https://github.com/gmum/rethinking-calibration-for-eenns。
引用
@article{arxiv.2508.21495,
title = {Rethinking Calibration for Early-Exit Neural Networks},
author = {Piotr Kubaty and Filip Szatkowski and Grzegorz Choczyński and Eric Nalisnick and Bartosz Wójcik},
journal= {arXiv preprint arXiv:2508.21495},
year = {2026}
}