定义驱动设计：残疾模型与 AI 技术中的偏见机制

Denis Newman-Griffis; Jessica Sage Rauchberg; Rahaf Alharbi; Louise Hickman; Harry Hochheiser

定义驱动设计：残疾模型与 AI 技术中的偏见机制

人工智能 2022-11-24 v3 人机交互

作者: Denis Newman-Griffis , Jessica Sage Rauchberg , Rahaf Alharbi , Louise Hickman , Harry Hochheiser

摘要

人工智能（AI）工具在医疗、就业、社会福利和政府政策等多样领域辅助决策的部署日益增加，这对残疾人构成了严重风险，已有研究表明残疾人在 AI 应用中面临偏见。尽管在分析和缓解算法偏见方面已有大量工作，但偏见如何在 AI 应用中产生的更广泛机制尚不清晰，阻碍了从源头上解决偏见的努力。在本文中，我们阐明 AI 辅助决策中的偏见如何源于一系列具体的设计决策，其中每一个单独考虑时看似自成一体且无不公平。这些设计决策包括基本问题表述、所选分析数据、AI 技术的用途，以及除核心算法设计之外的运行设计要素。我们借助常见于不同决策环境的三种历史残疾模型，展示残疾定义上的差异如何导致在上述各方面设计上高度不同的决策，进而产生具有多种偏见与下游效应的 AI 技术。我们进一步表明，在基础设计阶段不恰当的残疾定义所带来的潜在危害，因整个 AI 设计过程中缺乏透明度和残疾人参与而被进一步放大。我们的分析为批判性审视决策情境中的 AI 技术提供了框架，并指导面向残疾相关 AI 分析的设计实践发展。我们提出本文，以提供关键问题来促进残疾人主导的设计与参与式开发，从而在残疾相关情境中产出更公平、更平等的 AI 技术。

关键词

人工智能算法偏见残疾模型人在回路设计决策制定参与式开发

引用

@article{arxiv.2206.08287,
  title  = {Definition drives design: Disability models and mechanisms of bias in AI technologies},
  author = {Denis Newman-Griffis and Jessica Sage Rauchberg and Rahaf Alharbi and Louise Hickman and Harry Hochheiser},
  journal= {arXiv preprint arXiv:2206.08287},
  year   = {2022}
}

备注

38 pages, 1 figure, 2 tables. Keywords: artificial intelligence; critical disability studies; information and communication technologies; data analytics; data science; fairness, accountability, transparency, and ethics

定义驱动设计：残疾模型与 AI 技术中的偏见机制

摘要

关键词

引用

备注

相关论文