用于改进分布外检测的对比训练
机器学习
2020-07-14 v1 机器学习
摘要
可靠地检测分布外（OOD）输入日益被认为是部署机器学习系统的前提条件。本文提出并研究使用对比训练来提升OOD检测性能。与主流的OOD检测方法不同，我们的方法不需要访问被显式标注为OOD的样本，这类样本在实践中难以收集。我们在大量实验中表明，对比训练在多个常见基准上显著提升了OOD检测性能。通过引入并采用混淆对数概率（CLP）分数——该分数通过捕捉内点数据集与离群点数据集的相似性来量化OOD检测任务的难度——我们表明，我们的方法尤其在“近OOD”类别上提升了性能，而这是先前方法尤其具有挑战性的设置。
引用
@article{arxiv.2007.05566,
title = {Contrastive Training for Improved Out-of-Distribution Detection},
author = {Jim Winkens and Rudy Bunel and Abhijit Guha Roy and Robert Stanforth and Vivek Natarajan and Joseph R. Ledsam and Patricia MacWilliams and Pushmeet Kohli and Alan Karthikesalingam and Simon Kohl and Taylan Cemgil and S. M. Ali Eslami and Olaf Ronneberger},
journal= {arXiv preprint arXiv:2007.05566},
year = {2020}
}