因果公平性分析

基于人工智能和机器学习的决策系统已广泛应用于包括医疗、执法、教育和金融在内的多种真实场景。设想一个自主系统将驱动整个业务决策，并更广泛地支撑大规模决策基础设施以解决社会最严峻问题的未来，已不再遥不可及。当决策由人类做出时，不公平与歧视问题普遍存在；而当决策由缺乏透明度、问责制和公平性的机器做出时，这些问题依然存在（甚至可能被放大）。在本文中，我们引入一个因果公平性分析（causal fairness analysis）框架，旨在填补这一空白，即理解、建模并可能解决决策场景中的公平性问题。我们方法的核心见解是将观测数据中存在的差异量化与最初产生该差异的底层且常未被观测的因果机制集合联系起来，我们将这一挑战称为因果公平性分析的基本问题（FPCFA）。为解决FPCFA，我们研究了将变异与公平性的经验度量进行分解的问题，将这些变异归因于结构机制与不同人口单元。我们的工作最终形成了公平性地图（Fairness Map），这是首次系统性地尝试组织并解释文献中不同准则之间的关系。最后，我们研究了进行因果公平性分析所需的最小因果假设，并提出了公平性手册（Fairness Cookbook），使数据科学家能够评估差别性影响与差别性待遇的存在。