恶意对话响应的检测与分类：分类体系、数据与方法论
计算与语言
2020-08-25 v1 信息检索
摘要
作为人们获取信息的一种方式，对话式接口日益流行。基于语料的对话式接口能够生成比基于模板或基于检索的代理更多样、更自然的回复。随着基于语料的对话代理生成能力的提升，需要对内容上和对话行为上不恰当的恶意回复进行分类与过滤。以往关于识别与分类不当内容的研究多聚焦于某一特定恶意类别，或仅针对单句而非整个对话。本文中，我们定义了恶意对话响应检测与分类（MDRDC）任务。我们为该任务的研究推进作出三点贡献。首先，我们提出了一个分层恶意对话分类体系（HMDT）。其次，我们创建了一个带标注的多轮对话数据集，并将MDRDC任务表述为该分类体系上的分层分类任务。第三，我们将最先进的文本分类方法应用于MDRDC任务，并报告了旨在评估这些方法性能的广泛实验。
引用
@article{arxiv.2008.09706,
title = {Detecting and Classifying Malevolent Dialogue Responses: Taxonomy, Data and Methodology},
author = {Yangjun Zhang and Pengjie Ren and Maarten de Rijke},
journal= {arXiv preprint arXiv:2008.09706},
year = {2020}
}
备注
under review at JASIST