中文

AI 赋能普惠:识别与多样性与包容性相关的 AI 事件

计算机与社会 2024-08-06 v1 人工智能

摘要

人工智能 (AI) 技术的快速扩张带来了显著的进步与挑战,其中多样性与包容性 (D&I) 正成为关键关注议题。解决 AI 中的 D&I 问题对于减少偏见和歧视、增强公平性以及防止对社会的不利影响至关重要。尽管如此,D&I 考量往往被忽视,导致构建性偏见和伦理困境的事件屡见不鲜。通过 D&I 视角分析 AI 事件对于识别偏见原因并制定缓解措施至关重要,以确保更公平、更具包容性的 AI 技术。然而,系统性地调查 D&I 相关的 AI 事件仍稀缺。本研究通过对 AI 事件数据库 (AIID 和 AIAAIC) 进行手动分析,识别和理解 AI 系统中的 D&I 问题。研究开发了决策树以调查与 AI 事件相关的 D&I 问题,并填充一个公开的 D&I 相关 AI 事件存储库。该决策树通过卡片排序练习和焦点小组讨论进行了验证。研究表明,所分析的几乎一半 AI 事件与 D&I 有关,其中最显著的是种族、性别和年龄歧视。该决策树和所得公开存储库旨在促进进一步的研究和负责任的 AI 实践,推动开发包容性和公平的 AI 系统。

关键词

引用

@article{arxiv.2408.01438,
  title  = {AI for All: Identifying AI incidents Related to Diversity and Inclusion},
  author = {Rifat Ara Shams and Didar Zowghi and Muneera Bano},
  journal= {arXiv preprint arXiv:2408.01438},
  year   = {2024}
}

备注

25 pages, 9 figures, 2 tables