机器学习模型中的偏差与不公平性：系统性文献综述
机器学习
2022-11-04 v4 人工智能
摘要
人工智能的困难之一在于确保模型决策公平且无偏差。在研究中，数据集、度量指标、技术与工具被用于检测并缓解算法不公平性与偏差。本研究旨在考察关于机器学习模型中偏差与不公平性的现有知识，识别缓解方法、公平性度量指标及支撑工具。一项系统性文献综述在 Scopus、IEEE Xplore、Web of Science 和 Google Scholar 知识库中发现了 2017 至 2022 年间发表的 40 篇合格文章。结果表明，针对 ML 技术存在大量偏差与不公平性检测及缓解方法，文献中已明确定义度量指标，且可突出多种不同的度量指标。我们建议进一步研究以定义各情形下应采用的技术与度量指标，从而标准化并确保机器学习模型的公正性，进而允许在最恰当的度量指标下检测特定情境中的偏差与不公平性。
引用
@article{arxiv.2202.08176,
title = {Bias and unfairness in machine learning models: a systematic literature review},
author = {Tiago Palma Pagano and Rafael Bessa Loureiro and Fernanda Vitória Nascimento Lisboa and Gustavo Oliveira Ramos Cruz and Rodrigo Matos Peixoto and Guilherme Aragão de Sousa Guimarães and Lucas Lisboa dos Santos and Maira Matos Araujo and Marco Cruz and Ewerton Lopes Silva de Oliveira and Ingrid Winkler and Erick Giovani Sperandio Nascimento},
journal= {arXiv preprint arXiv:2202.08176},
year = {2022}
}