生成式人工智能与感知伤害：谁被怀疑使用大型语言模型？
人机交互
2025-03-21 v3
摘要
大型语言模型（LLM）日益集成到各类写作任务中。尽管这些工具能通过生成想法或产出更高质量的作品帮助人们，但像其他AI工具一样，可能造成各种伤害，尤其对历史上受边缘化群体的负担更为沉重。本文我们引入并评估感知伤害，这是指当用户感知或怀疑他人使用AI时对用户造成的伤害。我们在三个在线实验中考察了感知伤害，每个实验都涉及人类参与者评估虚构的自由作家轮廓。我们询问参与者是否怀疑作家使用AI、其写作质量，以及是否应雇佣他们。我们发现，针对某些人口统计特征的群体，存在一定程度的感知伤害支持；但无论如何，AI使用感知都会对写作评估和雇佣结果产生负面影响。
引用
@article{arxiv.2410.00906,
title = {Generative AI and Perceptual Harms: Who's Suspected of using LLMs?},
author = {Kowe Kadoma and Danaé Metaxa and Mor Naaman},
journal= {arXiv preprint arXiv:2410.00906},
year = {2025}
}