非参数异常值合成
机器学习
2023-03-07 v1 人工智能
摘要
分布外（OOD）检测对于在真实场景中安全部署机器学习模型必不可少。关键挑战之一是模型缺乏来自未知数据的监督信号，因此可能对 OOD 数据产生过度自信的预测。近期关于异常值合成的工作将特征空间建模为参数化高斯分布，这一强且受限的假设在现实中可能不成立。本文提出一种新框架——非参数异常值合成（NPOS），其生成人工 OOD 训练数据，并有助于学习 ID 与 OOD 数据间可靠的决策边界。重要的是，我们提出的合成方法不对 ID 嵌入做任何分布假设，从而提供强大的灵活性与通用性。我们表明该合成方法可在数学上解释为拒绝采样框架。大量实验表明，NPOS 能取得优越的 OOD 检测性能，以显著优势超越竞争方法。代码公开于 https://github.com/deeplearning-wisc/npos。
引用
@article{arxiv.2303.02966,
title = {Non-Parametric Outlier Synthesis},
author = {Leitian Tao and Xuefeng Du and Xiaojin Zhu and Yixuan Li},
journal= {arXiv preprint arXiv:2303.02966},
year = {2023}
}
备注
ICLR 2023