基于偏差学习的文本少样本异常检测
机器学习
2023-08-24 v1 计算与语言
摘要
当前大多数文本异常检测方法集中于仅利用无标签数据构建模型。这些模型基于不存在已标注异常样本的假设,使其无法利用现实应用中通常以少量存在的异常先验知识。此外,这些模型优先学习特征嵌入而非直接优化异常分数,可能导致异常打分次优及学习过程中数据利用效率低下。本文提出 FATE,一种基于深度少样本学习的框架,其利用有限异常样本并通过偏差学习以端到端方式显式学习异常分数。在该方法中,正常样本的异常分数被调整以紧密接近由先验分布得到的参考分数;反之,异常样本被迫具有在先验上尾中显著偏离参考分数的异常分数。此外,我们的模型通过多头自注意力层与多示例学习方法优化以学习异常的独特行为。在多个基准数据集上的综合实验表明,所提方法达到了新的 SOTA 性能水平。
引用
@article{arxiv.2308.11780,
title = {Few-shot Anomaly Detection in Text with Deviation Learning},
author = {Anindya Sundar Das and Aravind Ajay and Sriparna Saha and Monowar Bhuyan},
journal= {arXiv preprint arXiv:2308.11780},
year = {2023}
}
备注
Accepted in ICONIP 2023