中文

NLP-ADBench:面向自然语言处理异常检测的数据基准

计算与语言 2025-10-13 v2 机器学习

摘要

异常检测(AD)是具有欺诈检测、内容审查和用户行为分析等应用的重要机器学习任务。然而,异常检测在自然语言处理(NLP)语境下研究相对不足,限制了其在检测有害内容、网络钓鱼尝试和垃圾评论方面的效果。我们引入NLP-ADBench,目前最全面的NLP异常检测(NLP-AD)数据基准,包含八个精选数据集和19种最先进算法。这些方法涵盖3种端到端方法和16种两步方法,后者将经典的非AD方法适配来自BERT和OpenAI的语言嵌入。我们的实证结果表明,没有单一模型在所有数据集上都占据主导地位,这表明需要自动化模型选择。此外,两步方法使用基于Transformer的嵌入在所有数据集上一致优于专用的端到端方法,其中OpenAI嵌入优于BERT嵌入。我们在https://github.com/USC-FORTIS/NLP-ADBench发布NLP-ADBench,为NLP-AD提供统一框架,支持未来的研究。

关键词

引用

@article{arxiv.2412.04784,
  title  = {NLP-ADBench: NLP Anomaly Detection Benchmark},
  author = {Yuangang Li and Jiaqi Li and Zhuo Xiao and Tiankai Yang and Yi Nian and Xiyang Hu and Yue Zhao},
  journal= {arXiv preprint arXiv:2412.04784},
  year   = {2025}
}

备注

EMNLP Findings 2025. The project is available at https://github.com/USC-FORTIS/NLP-ADBench