善意之钥：通过移动键盘中的主动内容审核减少在线话语毒性
人机交互
2024-01-22 v1
摘要
越来越多的证据表明，由 AI 支持的主动内容审核有助于改善在线话语。然而，我们对这些系统的设计、设计如何影响有效性和用户体验，以及人们如何看待跨越公共和私人平台的主动审核知之甚少。我们开发了一款内置主动内容审核的移动键盘，并在公共和私人通信平台的半功能模拟环境中进行了测试（N=575）。在检测到有毒内容时，我们采用了嵌入三个设计因素的不同干预措施：时机、摩擦和 AI 模型输出的呈现。我们发现无论设计如何，审核都是有效的。然而，摩擦是烦恼的来源，而在打字过程中发生且无摩擦的提示更为有效。后续访谈突显了这些系统在公共和私人平台上被感知方式的差异，以及它们如何通过充当教育和沟通支持工具来提供超越审核的更多价值。
引用
@article{arxiv.2401.10627,
title = {Key to Kindness: Reducing Toxicity In Online Discourse Through Proactive Content Moderation in a Mobile Keyboard},
author = {Mark Warner and Angelika Strohmayer and Matthew Higgs and Husnain Rafiq and Liying Yang and Lynne Coventry},
journal= {arXiv preprint arXiv:2401.10627},
year = {2024}
}