生成式AI模型在呈现非西方文化时是否输出伤害：来自以社群为中心方法的证据
计算机与社会
2024-08-06 v3 人工智能
人机交互
摘要
我们的研究探讨了生成式人工智能（GAI）模型，特别是文本到图像生成器（T2Is），对非西方文化呈现的影响，重点关注印度语境。尽管T2Is在内容创作方面具有变革潜力，但人们对其可能导致误现和边缘化的偏见产生了担忧。通过以社群为中心的方法和对来自不同印度亚文化的5个焦点小组的扎根理论分析，我们探究了T2I根据英文提示生成的输出如何描绘印度文化及其亚文化，揭示了诸如异域化和文化挪用等新颖的呈现性伤害。这些发现凸显了对包容且具有文化敏感性的T2I系统的迫切需求。我们提出了基于社会技术视角的设计指南，旨在解决这些问题，并为在全球范围内开发更公平、更具代表性的GAI技术做出贡献。我们的工作也强调了采用以社群为中心的方法来理解这些模型的社会技术动态的必要性，这补充了该领域的现有工作，同时识别并解决了这些模型在全球范围部署时可能产生的潜在负面反响和伤害。
引用
@article{arxiv.2407.14779,
title = {Do Generative AI Models Output Harm while Representing Non-Western Cultures: Evidence from A Community-Centered Approach},
author = {Sourojit Ghosh and Pranav Narayanan Venkit and Sanjana Gautam and Shomir Wilson and Aylin Caliskan},
journal= {arXiv preprint arXiv:2407.14779},
year = {2024}
}
备注
This is the pre-peer reviewed version, which has been accepted at the 7th AAAI ACM Conference on AI, Ethics, and Society, Oct. 21, 2024, California, USA