《牛津人工智能伦理手册》关于种族与性别的章节
计算机与社会
2019-08-20 v1 人工智能
摘要
从大规模基于人脸识别的监控和预测犯罪再犯率的基于机器学习的决策系统，到迈向自动化健康诊断系统，人工智能（AI）正被用于对人类生活有严重后果的情境中。然而，AI 这种迅速渗透进社会的过程，并未伴随对其导致某些群体受损而非受益的社会政治问题的彻底调查。例如，近期研究表明，商业人脸识别系统对深肤色女性的错误率要高得多，而对浅肤色男性错误极少。2016 年 ProPublica 的一项调查揭露，美国评估犯罪再犯率的基于机器学习的工具对非洲裔美国人存在偏见。其他研究显示，在报纸上训练的自然语言处理工具表现出社会偏见（例如，以“家庭主妇”完成“男人之于计算机程序员如同女人之于 X”的类比）。同时，《数学毁灭武器》和《自动化不平等》等书籍详述了美国较低社会经济阶层的人比上层阶级受到更多自动化决策工具的影响。因此，这些工具最常用于对其表现出最大偏见的群体。尽管已提出许多技术解决方案来缓解机器学习系统中的偏见，我们必须采取整体且多面的方法。这包括标准制定机构确定哪些类型的系统可用于哪些场景，确保自动化决策工具由多元背景的人创建，以及理解使受这些工具影响的某些群体处于不利地位的历史与政治因素。
引用
@article{arxiv.1908.06165,
title = {Oxford Handbook on AI Ethics Book Chapter on Race and Gender},
author = {Timnit Gebru},
journal= {arXiv preprint arXiv:1908.06165},
year = {2019}
}
备注
Book chapter on Oxford Hanbook on AI Ethics. 27 pages with references