公平性约束下非平凡准确性的不可能性

Carlos Pinzón; Catuscia Palamidessi; Pablo Piantanida; Frank Valencia

公平性约束下非平凡准确性的不可能性

机器学习 2021-11-24 v2 密码学与安全

作者: Carlos Pinzón , Catuscia Palamidessi , Pablo Piantanida , Frank Valencia

摘要

机器学习(ML)中有关公平性的主要担忧之一是,为了实现公平性,可能不得不牺牲一定的准确性。为克服此问题,Hardt 等人提出了机会均等(EO)的概念,当目标标签相对于输入特征是确定性的时,该概念与最大准确性相容。然而在概率情形下,问题更为复杂:已有研究表明,在差分隐私约束下,存在某些数据源,使得 EO 只能在完全牺牲准确性的情况下实现,即满足 EO 的分类器不可能比平凡(即常数)分类器更准确。本文中我们去掉了隐私约束并强化了该结果。具体而言,我们证明对于某些数据源,满足 EO 的最准确分类器是平凡分类器。此外,我们研究了准确性与 EO 损失(机会差异)之间的权衡,并给出了数据源上 EO 与非平凡准确性相容的一个充分条件。

关键词

机器学习中的公平性机会均等准确性权衡平凡分类器差分隐私概率标签 EO 损失

引用

@article{arxiv.2107.06944,
  title  = {On the impossibility of non-trivial accuracy under fairness constraints},
  author = {Carlos Pinzón and Catuscia Palamidessi and Pablo Piantanida and Frank Valencia},
  journal= {arXiv preprint arXiv:2107.06944},
  year   = {2021}
}

备注

7 pages and 6 more of detailed supplementary material

公平性约束下非平凡准确性的不可能性

摘要

关键词

引用

备注

相关论文