生成式AI伤害的心理社会影响
计算与语言
2024-05-06 v1
摘要
生成式语言模型（LMs）的快速涌现引发了对其未经审查的采纳可能对不同用户群体社会福祉产生影响的日益担忧。同时，LMs正日益被用于K-20学校和一对一学生场景中，却对其部署潜在伤害进行最小化调查。以实际/日常用例（例如AI写作助手）为动机，本文探讨了五大领先LMs在响应开放式提示时生成内容所可能产生的心理社会伤害。我们分析了15万篇100词短篇涉及学生课堂互动的故事，延续了关于刻板印象伤害的既有研究发现。通过考察LMs生成的角色人口统计学特征和代表性伤害（即消失、从属和刻板印象），我们指出了特别令人关切的片段，说明LMs生成的输出可能影响拥有边缘和次要身份的用户体验，并强调在多样化社会情境中部署和使用生成式AI工具时，需要对其心理社会影响进行批判性理解。
引用
@article{arxiv.2405.01740,
title = {The Psychosocial Impacts of Generative AI Harms},
author = {Faye-Marie Vassel and Evan Shieh and Cassidy R. Sugimoto and Thema Monroe-White},
journal= {arXiv preprint arXiv:2405.01740},
year = {2024}
}
备注
Presented in Impact of GenAI on Social and Individual Well-being at AAAI 2024 Spring Symposium Series (2024)