YZR-net：用于脏话检测的变换不变自监督隐藏表征
计算与语言
2022-11-29 v1 计算机与社会
摘要
在当前的在线学习平台上，直播课是一种重要的工具，它为学生提供了在学习新概念时更深入参与的机会。在这类课堂中，与老师和同伴的互动元素有助于消除学习孤岛，并让每个学生在这个虚拟课堂时代有机会体验一些与线下学习相关的方面。课堂中一种常见的互动方式是通过聊天/消息框架，教师可以广播消息，并从直播课的学生那里获得即时反馈。这种互动自由对任何学生的学习成长都至关重要，但滥用它可能会产生严重后果。一些不法分子利用此框架发送污言秽语，这会对其他学生以及课堂教师产生负面影响。这些罕见但影响巨大的情况凸显了对自动检测机制的需求，以防止此类聊天内容在任何平台上发布。在这项工作中，我们开发了YZR-Net，这是一个自监督框架，即使学生试图添加巧妙的修改来欺骗系统，它也能稳健地检测聊天中使用的污言秽语。基于标记/词级别的匹配机制使我们能够维护一个紧凑且动态的污言秽语词汇表，该词汇表可以在不重新训练底层模型的情况下进行更新。我们的污言秽语检测框架与语言无关，可以处理英语及其音译对应语言Hinglish（用英语书写的印地语单词）中的滥用内容。
引用
@article{arxiv.2211.15532,
title = {YZR-net : Self-supervised Hidden representations Invariant to Transformations for profanity detection},
author = {Vedant Sandeep Joshi and Sivanagaraja Tatinati and Yubo Wang},
journal= {arXiv preprint arXiv:2211.15532},
year = {2022}
}