中文

ProtoInfoMax:基于互信息最大化的原型网络用于域外检测

计算与语言 2022-01-20 v5

摘要

检测域外(OOD)输入的能力在许多现实世界 NLP 应用中是一项关键需求,例如对话系统中的意图分类。原因在于,引入不受支持的 OOD 输入可能导致系统灾难性失效。然而,在当前方法能否在零 OOD 训练数据可用的真实场景中可靠处理此类问题,仍是一个经验性问题。本研究中,我们提出 ProtoInfoMax,一种新架构,将原型网络扩展以通过互信息最大化(InfoMax)目标同时处理域内与 OOD 句子。实验结果表明,所提方法在文本分类的低资源 OOD 检测设置中可将性能提升至多 20%。我们还表明 ProtoInfoMax 较不易出现神经网络的典型过度自信错误,从而带来更可靠的预测结果。

关键词

引用

@article{arxiv.2108.12229,
  title  = {ProtoInfoMax: Prototypical Networks with Mutual Information Maximization for Out-of-Domain Detection},
  author = {Iftitahu Ni'mah and Meng Fang and Vlado Menkovski and Mykola Pechenizkiy},
  journal= {arXiv preprint arXiv:2108.12229},
  year   = {2022}
}

备注

This manuscript will be available in ACL Anthology section EMNLP2021-Findings papers