面向有效反驳:将人类偏好与对抗网络滥用策略对齐
计算与语言
2024-10-08 v1
摘要
在线社区中的网络滥用通常涉及挑衅情绪、操纵讨论等干扰性行为,导致社区氛围两极化和情感痛苦。有效的社区管理对于缓解这些负面影响、维持健康建设性氛围至关重要。然而,有效应对滥用者极具挑战性,因为其行为差异大,需要不同的应对策略(RS)来抵御。这种多样性使得为特定情境选择合适的 RS 变得困难。为此,本研究探讨人类是否针对不同类型的滥用行为拥有偏好策略。研究结果显示,滥用类型与所需 RS 之间存在相关性。本文引入一种方法,通过推荐合适的 RS 来生成针对滥用者的反驳应答,同时构建了一个将这些策略与人类偏好在各种滥用情境下对齐的数据集。实验结果表明,我们的方法引导建设性讨论,减轻滥用者的负面影响,从而提升在线社区环境。
引用
@article{arxiv.2410.04164,
title = {Towards Effective Counter-Responses: Aligning Human Preferences with Strategies to Combat Online Trolling},
author = {Huije Lee and Hoyun Song and Jisu Shin and Sukmin Cho and SeungYoon Han and Jong C. Park},
journal= {arXiv preprint arXiv:2410.04164},
year = {2024}
}
备注
Findings of EMNLP 2024