TULiP：基于线性化和权重扰动的测试时不确定性估计
机器学习
2025-05-26 v2 机器学习
摘要
可靠的不确定性估计方法是许多现代离分布(OOD)检测器的基础，而这些检测器对于在开放世界中安全部署深度学习模型至关重要。本文提出TULiP，一个基于理论驱动的后处理不确定性估计器，用于OOD检测。我们的方法考虑在收敛前对网络施加假设性扰动。基于线性化训练动力学，我们对此类扰动的影响进行上界，从而得到可通过扰动模型参数计算的不确定性分数。最终，我们的方法从一组抽样预测中计算不确定性。在合成回归和分类数据集上，我们可视化了对上界。在大规模OOD检测基准测试中，我们进一步证明了TULiP的有效性。该方法在近分布样本上表现出最先进的性能，尤其是如此。
引用
@article{arxiv.2505.16923,
title = {TULiP: Test-time Uncertainty Estimation via Linearization and Weight Perturbation},
author = {Yuhui Zhang and Dongshen Wu and Yuichiro Wada and Takafumi Kanamori},
journal= {arXiv preprint arXiv:2505.16923},
year = {2025}
}