AI 应该模仿人吗？理解黑人用户对 AI 辅助写作技术的看法
人机交互
2025-08-12 v3
摘要
提供语法建议、自动补全句子或生成及重写文本的 AI 辅助写作技术（AISWT）现已成为许多人工作流程中的常规功能。然而，人们对这些工具提供的建议有何看法却知之甚少。本文受自然语言处理领域先前发现的启发——这些发现强调底层大语言模型可能包含种族偏见——调查了美国黑人用户如何看待 AISWT。通过对 13 名 AISWT 的美国黑人用户进行访谈和观察性用户研究，我们发现，在利用 AISWT 提升写作风格的感知益处与感觉“它不是为我们而建”之间存在强烈的权衡。具体而言，参与者报告称，AISWT 无法识别非裔美国人白话英语中常用的名字和表达方式，其纠正让他们感到受伤和疏离，并担心它可能进一步边缘化他们的文化。最后，我们反思了未能包容美国黑人文化和语言的 AISWT 与试图模仿它的 AISWT 之间的张力，并关注了准确性、真实性以及社会差异的产生。
引用
@article{arxiv.2505.00821,
title = {Should AI Mimic People? Understanding AI-Supported Writing Technology Among Black Users},
author = {Jeffrey Basoah and Jay L. Cunningham and Erica Adams and Alisha Bose and Aditi Jain and Kaustubh Yadav and Zhengyang Yang and Katharina Reinecke and Daniela Rosner},
journal= {arXiv preprint arXiv:2505.00821},
year = {2025}
}
备注
accepted to CSCW 2025