设计人机协作以支持反击言论写作中的学习
人机交互
2025-09-23 v4 人工智能
计算机与社会
摘要
在线仇恨言论在社交媒体上日益增长，造成对个人和社会的伤害。虽然自动内容 moderation 受到广泛关注，但用户驱动的反击言论（counterspeech）仍是一个较少探索却充满希望的方向。然而，许多人在编写有效回应方面面临困难。我们引入CounterQuill，一个人机协作系统，帮助普通用户通过反思和回应来编写富有同理心的反击言论——而不是生成自动回复。CounterQuill遵循基于计算思维的三个阶段工作流程：（1）学习阶段以构建对仇恨言论和反击言论的理解；（2）头脑风暴阶段识别有害模式并构思反击言论想法；（3）共同写作阶段帮助用户在保留个人语音的同时细化反击回应。通过用户研究（N=20），我们发现CounterQuill帮助受访者在整个过程中以自信和控制的方式进行反击言论的构思和草拟。我们的发现突显了AI系统如何通过结构化、以人为中心的工作流程来支架复杂的沟通任务，教育用户识别、反思和回应在线仇恨言论。
引用
@article{arxiv.2410.03032,
title = {Designing Human-AI Collaboration to Support Learning in Counterspeech Writing},
author = {Xiaohan Ding and Kaike Ping and Uma Sushmitha Gunturi and Buse Carik and Sophia Stil and Lance T Wilhelm and Taufiq Daryanto and James Hawdon and Sang Won Lee and Eugenia H Rho},
journal= {arXiv preprint arXiv:2410.03032},
year = {2025}
}