语义角色标注引导的分布外检测
计算与语言
2024-03-20 v2
摘要
在自然语言处理中识别意外的领域偏移实例在实际应用中至关重要。以往工作通过利用单一全局特征嵌入来表示句子以识别分布外(OOD)实例,无法很好地刻画细微的OOD模式。当前OOD方法面临的另一主要挑战是学习有效的低维句子表示,以识别与分布内(ID)数据语义相似的困难OOD实例。本文提出一种新的无监督OOD检测方法,即语义角色标注引导的分布外检测(SRLOOD),该方法利用基于间隔的对比损失,从句子的不同论元中分离、提取并学习语义角色标注(SRL)引导的细粒度局部特征表示,以及完整句子的全局特征表示。还引入了一种新颖的自监督方法,通过预测SRL提取的角色来增强这种全局-局部特征学习。所得模型在四个OOD基准上取得了SOTA性能,表明了我们方法的有效性。代码可通过 \url{https://github.com/cytai/SRLOOD} 公开获取。
引用
@article{arxiv.2305.18026,
title = {Semantic Role Labeling Guided Out-of-distribution Detection},
author = {Jinan Zou and Maihao Guo and Yu Tian and Yuhao Lin and Haiyao Cao and Lingqiao Liu and Ehsan Abbasnejad and Javen Qinfeng Shi},
journal= {arXiv preprint arXiv:2305.18026},
year = {2024}
}
备注
accepted by COLING 2024