梯度短路：通过特征干预实现高效的离分布检测
计算机视觉与模式识别
2025-07-08 v2 机器学习
摘要
离分布（OOD）检测对于在开放式环境中安全部署深度模型至关重要，此时输入可能位于训练分布之外。在仅使用分布内（ID）数据训练的模型推理时，我们注意到一种显著的梯度现象：围绕一个ID样本，增强其预测类别的局部梯度方向相对一致，而OOD样本——在训练中未出现的样本——在同一邻域内表现出杂乱或冲突的梯度方向。针对此观察，我们提出一种推理阶段技术，用于短路那些人为梯度用来扩大OOD置信度的特征坐标，而保持ID分类基本完整。为规避对修改后输出进行第二次前向传播的高额计算成本，我们进一步引入一种一阶局部近似，准确捕获修改后的输出，无需额外的前向传播。实验在标准OOD基准上显示，我们的方法显著提升了性能。此外，该方法轻量且对标准推理管线几乎无需修改，为实际应用中实现稳健的OOD检测提供了实用路径。
引用
@article{arxiv.2507.01417,
title = {Gradient Short-Circuit: Efficient Out-of-Distribution Detection via Feature Intervention},
author = {Jiawei Gu and Ziyue Qiao and Zechao Li},
journal= {arXiv preprint arXiv:2507.01417},
year = {2025}
}
备注
Accepted to ICCV 2025