为 AI 系统建模认识论原理以缓解偏差：以招聘决策为例
人工智能
2018-09-27 v1
摘要
人工智能（AI）已广泛用于各类场景中的自动决策，从贷款信用评分到电影推荐。传统的 AI 模型设计准则本质上聚焦于准确率最大化，但近期研究表明，除非明确处理歧视与不公平问题，否则很可能产生经济上非理性且社会不可接受的歧视与不公情形。这种不良行为的来源有多种，例如在黑盒模型中可能未被检测到的用于训练的偏置数据集。在指出 AI 此类偏差与归纳问题之间的关联后，我们聚焦于休谟之后波普尔的贡献，其提供了偏好的逻辑理论。基于准确率和公平性的一次或多次反驳尝试之后，一个 AI 模型可在纯粹理性基础上被优先于其他模型。受此类认识论原理启发，本文提出一种结构化方法来缓解 AI 系统中由偏差引起的歧视与不公。在所提出的计算框架中，模型在反驳尝试之后被筛选并增强。为阐释我们的讨论，我们聚焦于招聘决策场景，其中 AI 系统筛选应进入面试阶段的求职者。
引用
@article{arxiv.1711.07111,
title = {Modeling Epistemological Principles for Bias Mitigation in AI Systems: An Illustration in Hiring Decisions},
author = {Marisa Vasconcelos and Carlos Cardonha and Bernardo Gonçalves},
journal= {arXiv preprint arXiv:1711.07111},
year = {2018}
}