挑战：生成式 AI 中的“包容”究竟谁受益？

Samantha Dalal; Siobhan Mackenzie Hall; Nari Johnson

挑战：生成式 AI 中的“包容”究竟谁受益？

计算机与社会 2024-11-18 v2 人工智能人机交互

作者: Samantha Dalal , Siobhan Mackenzie Hall , Nari Johnson

摘要

对于准确且具代表性的生成式 AI 系统的需求，增加了参与式评估结构的需求。尽管这些参与式结构对于确保非主导价值观、知识和物质文化至关重要，但我们认为主导社区参与 AI 开发和评估的结构在不够明确地揭示社会边缘化群体成员因参与而可能经历的利益和伤害。没有对这些利益进行明确的质疑，AI 开发者社区可能仍对所需的系统性变革规模保持盲目。为支持这一挑战，我们提出了一个思辨案例研究，源于我们作为 AI 研究人员的集体经验。我们使用这种思辨语境来列举实现这些既定利益所需克服的障碍，并缓解潜在的伤害。

关键词

生成式 AI 参与式评估社会边缘化系统性变革思辨案例研究

引用

@article{arxiv.2411.09102,
  title  = {Provocation: Who benefits from "inclusion" in Generative AI?},
  author = {Samantha Dalal and Siobhan Mackenzie Hall and Nari Johnson},
  journal= {arXiv preprint arXiv:2411.09102},
  year   = {2024}
}

备注

3 pages, 1 figure. Published as a Short Paper in the NeurIPS 2024 Workshop on Evaluating Evaluations: Examining Best Practices for Measuring Broader Impacts of Generative AI

挑战：生成式 AI 中的“包容”究竟谁受益？

摘要

关键词

引用

备注

相关论文