OutFlip：利用自然语言攻击生成域外样本以检测未知意图
计算与语言
2021-05-13 v1 机器学习
摘要
域外（OOD）输入检测在任务型对话系统中至关重要，因为接受不支持的输入可能导致系统错误响应。本文提出 OutFlip，一种仅利用域内训练数据集自动生成域外样本的方法。我们对白盒自然语言攻击方法 HotFlip 进行改进，以生成域外样本而非对抗样本。评估结果表明，将 OutFlip 生成的域外样本加入训练数据集可显著提升意图分类模型的域外检测性能。
引用
@article{arxiv.2105.05601,
title = {OutFlip: Generating Out-of-Domain Samples for Unknown Intent Detection with Natural Language Attack},
author = {DongHyun Choi and Myeong Cheol Shin and EungGyun Kim and Dong Ryeol Shin},
journal= {arXiv preprint arXiv:2105.05601},
year = {2021}
}
备注
9 pages, 3 figures; to be appear in ACL Findings of ACL-IJCNLP 2021