基于因果分析的机器学习公平性权衡研究
机器学习
2023-10-04 v3 软件工程
摘要
增强机器学习（ML）的公平性日益受到关注。尽管公平性提升方法不断增多，我们仍缺乏对应用公平性提升方法时 ML 流程中所考虑因素之间权衡的系统性理解。这种理解对于开发者就提供公平 ML 服务做出明智决策至关重要。然而，当涉及多个公平性参数及其他关键指标且它们相互耦合甚至冲突时，分析权衡极为困难。本文使用因果分析作为原则性方法，分析 ML 流程中公平性参数与其他关键指标之间的权衡。为切实有效地开展因果分析，我们提出一组领域特定的优化以促进准确的因果发现，并基于成熟的因果推断方法提供统一的新型权衡分析接口。我们使用三个真实世界数据集在一系列广泛使用的公平性提升技术上进行了全面的实证研究。我们的研究为公平 ML 的用户和开发者提供了可操作的建议。我们进一步展示了我们的方法在选取最优公平性提升方法方面的多样用途，为更具伦理和社会责任的 AI 技术铺平道路。
引用
@article{arxiv.2305.13057,
title = {Causality-Aided Trade-off Analysis for Machine Learning Fairness},
author = {Zhenlan Ji and Pingchuan Ma and Shuai Wang and Yanhui Li},
journal= {arXiv preprint arXiv:2305.13057},
year = {2023}
}