“父权制也伤害男人。”你的模型这么认为吗？关于公平性假设的讨论
机器学习
2024-08-02 v1
摘要
公平机器学习（ML）实践者的工作流程通常分为三个阶段：1）选择公平性度量标准；2）选择能最小化该度量标准的模型；3）最大化模型在数据上的性能。在组公平性背景下，这种方法往往掩盖了关于数据中偏见如何引入的隐式假设。例如，在二分类任务中，常常假设具有相同公平性的最佳模型是性能更好的模型。然而，这种信念已经对引入偏见的过程施加了特定的约束。更确切地说，我们已经假设偏见引入的过程是公平得分的单调函数，仅依赖于敏感属性。我们对几类隐式公平性假设进行形式化证明。这导致我们认为，有两种可能的结论：要么偏见引入的过程比单调性更复杂，这意味着我们需要识别并摒弃隐式假设，以发展出能处理更复杂情形的模型；要么数据中引入的偏见是可预测的，这意味着许多已开发的模型都是多余的。
引用
@article{arxiv.2408.00330,
title = {"Patriarchy Hurts Men Too." Does Your Model Agree? A Discussion on Fairness Assumptions},
author = {Marco Favier and Toon Calders},
journal= {arXiv preprint arXiv:2408.00330},
year = {2024}
}