扩展机器学习抽象边界：一种纳入社会情境的复杂系统方法

机器学习（ML）公平性研究往往主要聚焦于针对常不透明的算法或模型及其直接输入与输出的基于数学的干预。此类过度简化的数学模型抽象掉了 ML 模型被构想、开发与最终部署的底层社会情境。由于公平性本身是一个社会建构的概念，源于该社会情境以及模型输入与模型自身，缺乏对社会情境的深入理解很容易损害对 ML 公平性的追求。在本文中，我们概述三种新工具以改进对社会情境的理解、识别与表示。首先，我们提出一种基于复杂自适应系统（CAS）的社会情境模型与定义，以帮助研究者和产品开发者拓展 ML 公平性工作的抽象边界以纳入社会情境。其次，我们引入协作因果理论形成（CCTF）作为一种关键能力，用于建立社会技术框架，在建模 ML 型产品的问题与解空间时纳入多元心智模型及关联因果理论。最后，我们确定基于社区的系统动力学（CBSD）作为一种强大、透明且严谨的方法，用于在 ML 产品开发过程的所有阶段实践 CCTF。我们以讨论收尾：这些用于理解社会技术系统所嵌入社会情境的系统理论方法，如何能够改进公平且包容的 ML 型产品的开发。