论文本离群暴露对视觉分布外检测的有效性
计算机视觉与模式识别
2023-10-26 v1 人工智能
机器学习
摘要
成功检测分布外（OoD）数据对于确保神经网络的安全部署愈发重要。OoD检测的主要挑战之一是神经网络对OoD数据输出过度自信的预测，使得仅依据预测难以判定数据的OoD属性。离群暴露通过引入额外损失，在训练时鼓励对OoD数据的低置信度预测，从而应对该问题。尽管离群暴露已展现出提升OoD检测性能的潜力，但以往所有相关研究仅限于利用视觉离群值。受近期视觉-语言预训练进展的启发，本文涉足文本离群暴露这一未知领域。首先，我们通过将图像域中的真实或虚拟离群值替换为文本等价物，揭示了使用文本离群值的益处。随后，我们提出多种生成优选文本离群值的方法。大量实验表明，生成的文本离群值在大规模OoD与困难OoD基准上取得了具竞争力的性能。此外，我们对文本离群值进行了实证分析，为设计有利文本离群值提供基本准则：近分布、描述性，以及包含视觉语义。
引用
@article{arxiv.2310.16492,
title = {On the Powerfulness of Textual Outlier Exposure for Visual OoD Detection},
author = {Sangha Park and Jisoo Mok and Dahuin Jung and Saehyung Lee and Sungroh Yoon},
journal= {arXiv preprint arXiv:2310.16492},
year = {2023}
}
备注
Accepted by NeurIPS 2023