Demarked：一种通过反制言论、去毒化和消息管理增强滥用言论审核的策略
计算与语言
2024-07-01 v1 社会与信息网络
摘要
尽管各国和社交媒体平台实施了相关规定，例如近期针对数字暴力的欧盟法规，但滥用内容仍然是一个重大挑战。现有方法主要依赖二元解决方案，例如直接屏蔽或封禁，却未能解决滥用言论的复杂性质。在本工作中，我们提出了一种更全面的方法，称为 Demarcation，该方法基于四个方面对滥用言论进行评分—— 严重程度量表； 存在目标； 语境量表； 法律量表——并建议采取更多行动选项，如去毒化、反制言论生成、屏蔽，或作为最终手段的人工干预。通过对不同司法管辖区、平台和研究论文中的滥用言论法规进行全面分析，我们强调了预防措施方面的差距，并提倡采取量身定制的主动步骤来打击其多方面的表现形式。我们的工作旨在为未来有效应对网络滥用言论的策略提供参考。
引用
@article{arxiv.2406.19543,
title = {Demarked: A Strategy for Enhanced Abusive Speech Moderation through Counterspeech, Detoxification, and Message Management},
author = {Seid Muhie Yimam and Daryna Dementieva and Tim Fischer and Daniil Moskovskiy and Naquee Rizwan and Punyajoy Saha and Sarthak Roy and Martin Semmann and Alexander Panchenko and Chris Biemann and Animesh Mukherjee},
journal= {arXiv preprint arXiv:2406.19543},
year = {2024}
}