基于群体的公平学习导致反直觉预测
机器学习
2019-10-08 v1 人工智能
机器学习
摘要
近来提出了许多机器学习（ML）方法，以在强制子群体间群体均等或公平概念的同时最大化模型预测精度。我们为这些过程提出一个可取性质，松弛一致性：对任意个体，模型的预测应关于所允许的松弛（即最大允许群体均等违背）单调。这种单调性可有助于个体理解强制公平对其预测的影响。令人惊讶的是，我们发现标准的强制公平机器学习方法违背了这一基本性质。此外，这种不良行为的出现在独立于底层模型复杂度或近似优化的情形下发生，表明在机器学习中引入约束这一简单举动便可能导致大幅非预期行为。我们提出一种简单的理论方法来强制松弛一致性，同时鼓励进一步讨论强制基于群体的均等时可能诱发的非预期行为。
引用
@article{arxiv.1910.02097,
title = {Group-based Fair Learning Leads to Counter-intuitive Predictions},
author = {Ofir Nachum and Heinrich Jiang},
journal= {arXiv preprint arXiv:1910.02097},
year = {2019}
}