LogitDynamics: 基于层次化逻辑轨迹的可靠视觉Transformer错误检测
计算机视觉与模式识别
2026-04-14 v1
摘要
可靠的置信度估计是部署视觉模型时的关键需求。我们研究错误预测：仅凭单次前向传播即可确定图像分类器的输出是否正确。受大型语言模型中内部信号幻觉检测的启发，我们探讨了类似深度信号是否存在于视觉Transformer (ViT)中。我们提出一种简单方法，建模类别证据在各层中的演化过程。通过在中间层附加轻量级线性头部，从最后L层提取特征，捕获预测类别及其Top-K竞争者的逻辑值，以及描述Top-ranked类别在深度维度上不稳定性的统计信息。在这些特征上训练的线性探针预测错误指示器。在多个数据集上，我们的方法在AUCPR指标上优于或匹配基线方法，并表现出更强的跨数据集泛化能力，同时所需的额外计算开销最小。
关键词
引用
@article{arxiv.2604.10643,
title = {LogitDynamics: Reliable ViT Error Detection from Layerwise Logit Trajectories},
author = {Ido Beigelman and Moti Freiman},
journal= {arXiv preprint arXiv:2604.10643},
year = {2026}
}
备注
Accepted to the HOW 2026 workshop at CVPR 2026; 7 pages, 3 figures