关于虚假相关对分布外检测的影响
机器学习
2022-03-08 v1 人工智能
摘要
现代神经网络会对来自训练分布之外的输入赋予高置信度，对实际部署中的模型构成潜在威胁。尽管大量研究致力于设计新的分布外（OOD）检测方法，OOD 的精确定义常含糊不清，且未能契合现实中期望的 OOD 概念。本文提出一种新的形式化方法，通过同时考虑不变特征与环境（虚假）特征来建模数据偏移。在此形式化下，我们系统研究了训练集中虚假相关如何影响 OOD 检测。结果表明，当训练集中虚假特征与标签的相关性增强时，检测性能严重恶化。我们进一步揭示了在降低虚假相关影响方面更有效的检测方法，并从理论层面分析了依赖环境特征导致高 OOD 检测误差的原因。本研究旨在增进对 OOD 样本及其形式化的理解，并推动增强 OOD 检测方法的研究。
引用
@article{arxiv.2109.05642,
title = {On the Impact of Spurious Correlation for Out-of-distribution Detection},
author = {Yifei Ming and Hang Yin and Yixuan Li},
journal= {arXiv preprint arXiv:2109.05642},
year = {2022}
}