Fairway：构建公平机器学习软件的一种途径

机器学习软件正日益被用于做出影响人们生活的决策。但有时，该软件的核心部分（学习到的模型）会以偏见的方式行事，给特定人群（这些群体由性别、种族等决定）带来不当优势。人工智能软件系统中的这种“算法歧视”已成为机器学习和软件工程界严重关切的问题。已有工作用于发现软件系统中的“算法偏见”或“伦理偏见”。一旦在人工智能软件系统中检测到偏见，偏见的缓解就极为重要。在这项工作中，我们 a) 解释了训练数据中的真实偏见如何影响机器学习模型的公平性，以及如何在人工智能软件中发现该偏见；b) 提出了一种方法 Fairway，它结合预处理与处理中方法来消除训练数据和已训练模型中的伦理偏见。我们的结果表明，我们可以在学习到的模型中发现并缓解偏见，而不会严重损害该模型的预测性能。我们建议 (1) 偏见测试和 (2) 偏见缓解应成为机器学习软件开发生命周期中的常规部分。Fairway 为这两个目的提供了大量支持。