用于促进 WhatsApp 群组有害内容讨论的对话式智能体
人机交互
2024-08-20 v2 计算机与社会
摘要
WhatsApp 群组已成为全球南部国家中有害内容（包括虚假信息、仇恨言论、两极化内容及谣言）传播的热点。鉴于平台端到端加密，内容审核责任在群组管理员和成员，他们很少会争论此类内容。另一种方法是事实核查，虽可扩展性强，但仅能针对事实性内容（如虚假信息）进行争论，却无法处理主观性内容（如仇恨言论）。借鉴最新文献，我们探讨讨论——开放且包容性的讨论——作为一种替代方案。我们调查了对话式智能体在 WhatsApp 群组中促进有害内容讨论所发挥的作用。我们对 21 名印度 WhatsApp 用户进行半结构化访谈，采用设计探针展示示例智能体。参与者表达了对匿名性的需求，并建议 AI 辅助可减少讨论 effort。他们欣赏智能体的中立性，但指出在回音室群组中讨论是徒劳的。我们的发现凸显了此类智能体在设计中的诸多张力，包括隐私与群组动态之间的冲突以及私人空间中的言论自由。我们运用 deliberative theory 作为分析视角，比较了讨论与审核和事实核查之间的效果，并为未来系统提供设计建议。最终，本工作通过提供关于在社交媒体私人群组聊天中设计讨论性系统以对抗有害内容的见解，推动了 CSCW 领域的发展。
关键词
引用
@article{arxiv.2405.20254,
title = {Conversational Agents to Facilitate Deliberation on Harmful Content in WhatsApp Groups},
author = {Dhruv Agarwal and Farhana Shahid and Aditya Vashistha},
journal= {arXiv preprint arXiv:2405.20254},
year = {2024}
}
备注
Accepted at CSCW 2024