$k$Folden：用于分布外检测的 $k$ 折集成
计算与语言
2021-11-09 v2
摘要
分布外 (OOD) 检测是自然语言处理 (NLP) 中的一个重要问题。在本工作中，我们提出了一个简单而有效的框架 Folden，它在训练时模拟 OOD 检测的行为且无需使用任何外部数据。对于一个具有 个训练标签的任务，Folden 诱导出 个子模型，每个子模型在含 类且将剩余一类对该子模型掩码为未知的子集上训练。在训练中向子模型暴露未知标签，模型被鼓励对未知标签将概率均等地分配给所见到的 个标签，使该框架能够通过 OOD 模拟以自然方式同时处理分布内与分布外样本。以文本分类为原型，我们利用现有文本分类数据集建立了 OOD 检测基准。通过在所建基准上的综合比较与分析，我们证明了 Folden 在提升 OOD 检测性能的同时保持更高的域内分类准确率方面优于现有方法。代码与数据集见：\url{https://github.com/ShannonAI/kfolden-ood-detection}。
引用
@article{arxiv.2108.12731,
title = {$k$Folden: $k$-Fold Ensemble for Out-Of-Distribution Detection},
author = {Xiaoya Li and Jiwei Li and Xiaofei Sun and Chun Fan and Tianwei Zhang and Fei Wu and Yuxian Meng and Jun Zhang},
journal= {arXiv preprint arXiv:2108.12731},
year = {2021}
}
备注
To appear at EMNLP 2021