因果推断用于伦理机器学习的承诺与挑战

近年来，由于与法律框架的兼容性、对人类社会利益相关者的可解释性，以及对观测数据中固有的伪相关性的鲁棒性等因素，因果推理用于设计公平决策系统受到越来越多的关注。然而，由于文献中当前因果公平方法在实践与认识论上的挑战，近期的因果公平关注也伴随着极大的质疑。受计量经济学、社会科学与生物医学中长期的因果经验工作启发，本文阐述了在“潜在结果框架”下恰当应用因果公平的条件。我们强调了因果公平文献中常被忽视的因果推断关键方面。特别地，我们讨论了对社会类别（如种族或性别）的干预性质与时机界定的重要性。确切地说，我们不去假设对不可变属性的干预，而是提议将焦点转向其感知，并讨论对公平性评估的影响。我们认为此种干预的概念化是评估因果假设有效性及开展可靠因果分析（包括避免处理后偏差）的关键。随后，我们阐释了因果推断如何能解决现有公平性度量（包括依赖统计相关性的度量）的局限。具体地，我们引入了常见统计公平性概念的因果变体，并作出一个新观察：在因果框架下，不同公平性概念之间不存在根本分歧。最后，我们进行了大量实验，展示了在存在处理后变量时评估和缓解不公平性的方法。