为滥用检测建模用户与在线社区：关于伦理与可解释性的立场
计算与语言
2021-04-15 v2 人工智能
摘要
网络滥用是我们这个时代一个重要的社会问题。数百万互联网用户在各类平台上面临骚扰、种族主义、人身攻击及其他类型的滥用。滥用对个人的心理影响可能是深远且持久的。因此，过去几年中，NLP领域在自动化滥用语言检测方面投入了大量研究工作。在本立场论文中，我们讨论了用户与在线社区建模在滥用检测中所起的作用。具体而言，我们回顾并分析了利用用户或社区信息来增强对滥用语言的理解与检测的最先进方法。随后，我们探讨了纳入用户与社区信息所带来的伦理挑战，并提出了指导未来研究的考量因素。最后，我们探讨了滥用语言检测中的可解释性问题，提出了可解释方法应力求展现的特性。我们描述了用户与社区信息如何促进这些特性的实现，并针对这些特性讨论了可解释性的有效落地。
引用
@article{arxiv.2103.17191,
title = {Modeling Users and Online Communities for Abuse Detection: A Position on Ethics and Explainability},
author = {Pushkar Mishra and Helen Yannakoudakis and Ekaterina Shutova},
journal= {arXiv preprint arXiv:2103.17191},
year = {2021}
}