记录文生图生成器中对边缘化群体的异国情调化模式

研究 GAI 工具危害性结果的 AI 公平性研究中，绝大多数忽视了非西方社区和背景，因此亟需加强这一方向的研究覆盖。我们扩展了之前关于 GAI 工具所描绘的全球“南半球”国家异国情调化的研究（Ghosh et al., 2024）。我们分析了来自 13 个国家——印度、孟加拉国、巴布亚新几内亚、埃及、埃塞俄比亚、突尼斯、苏丹、利比亚、委内瑞拉、哥伦比亚、印度尼西亚、洪都拉斯和墨西哥——的个体进行日常活动（如在家、上班、购买杂货等）的生成图像，并与来自 3 个“北半球”国家——美国、英国、澳大利亚——的个体进行相同活动的图像进行了对比。虽然“北半球”的输出结果在图像上表现出差异且人物穿着适合活动的服装，但“南半球”国家的个体无论进行何种活动，都被描绘成相似的着装，这表明存在一种异国情调化模式，即服装或其他文化特征被过度放大而牺牲了准确性。我们进一步展示了定性分析的案例研究，证明异国情调化不仅施加于“南半球”国家，也施加于西方背景下的边缘化群体，因为我们观察到“北半球”原住民群体也存在类似的异国情调化现象，并且在“南半球”国家内部的边缘化群体身上表现得更为严重。我们记录了此类工具的感知危害使用模式的影响，以及通过以社区为中心的努力来设计更优 GAI 工具的步骤。