情感检测对识别有毒与颠覆性在线评论的影响
计算与语言
2018-12-06 v1
摘要
有毒内容的存在已成为许多在线社区的一个主要问题。版主试图通过实施越来越精细的评论过滤器来限制这一问题，但有毒用户不断找到规避它们的新方法。我们的假设是，虽然修改有毒内容和关键词以欺骗过滤器可能很容易，但隐藏情感则更难。在本文中，我们探索情感检测的各个层面及其与毒性的相关性，并利用我们的结果实现了一个毒性检测工具。然后，我们测试了在三个不同的真实世界数据集中添加情感信息如何帮助检测毒性，并将颠覆行为纳入这些数据集以模拟试图规避系统的用户。我们的结果表明，情感信息对针对颠覆性用户的毒性检测具有积极影响。
引用
@article{arxiv.1812.01704,
title = {Impact of Sentiment Detection to Recognize Toxic and Subversive Online Comments},
author = {Éloi Brassard-Gourdeau and Richard Khoury},
journal= {arXiv preprint arXiv:1812.01704},
year = {2018}
}