从机器学习开发者视角评估感知公平性

机器学习（ML）应用中的公平性对研究与工业界的开发者而言是一项重要实践。在 ML 应用中，不公平性由数据偏差、整理过程、错误假设以及算法开发过程中隐含的偏差所引发。随着 ML 应用使用日益广泛，开发公平的 ML 应用至关重要。文献从用户视角和作为未来开发者的学生视角对 ML 中公平性如何描述提出了多种观点。具体而言，ML 开发者尚未成为感知公平性相关研究的焦点。本文报告一项关于 ML 开发者公平性感知的试点调查。在描述公平性感知时，论文通过系统的开发者焦点小组开展探索性试点研究，以评估该构念的属性。在焦点小组中，我们请参与者讨论三个问题：1）ML 中公平性的特征是什么？2）哪些因素影响开发者对 ML 公平性的信念？3）ML 开发中使用了哪些实践与工具来实现公平性？该探索性焦点小组工作的发现表明，为评估公平性，开发者通常关注 ML 应用的整体设计与开发，即业务特定需求、数据收集、预处理、处理中和后处理。因此，我们得出结论：组织公正理论的程序性方面可以解释开发者的公平性感知。本研究的发现可进一步用于协助开发团队在 ML 应用开发生命周期中融入公平性。它也将激励 ML 开发者和组织制定评估基于 ML 应用公平性的最佳实践。