机器学习中的公平性：反对以假阳性率相等作为公平性度量
计算机与社会
2023-08-22 v1 人工智能
机器学习
摘要
随着机器学习越来越多地影响重大决定，人们提出了不同指标来度量算法偏见或不公平。两种流行的公平性度量是校准与假阳性率相等。每种度量直观上似乎都很重要，但显然通常不可能同时满足两者。因此，机器学习领域大量文献谈及这两种度量之间的公平性权衡。这一框架假定两种度量实际上都捕捉了某种重要性质。迄今为止，哲学家尚未审视这一关键假定，也未考察每种度量在多大程度上真正对应于规范上重要的属性。这使得校准与假阳性率相等之间不可避免的统计冲突成为伦理学中重要课题。在本文中，我给出思考这些度量的伦理框架，并论证：与初看起来相反，假阳性率相等并不对应于任何关于公平性的内容，因而为评估算法公平性设定了不连贯的标准。
引用
@article{arxiv.2007.02890,
title = {Fairness in machine learning: against false positive rate equality as a measure of fairness},
author = {Robert Long},
journal= {arXiv preprint arXiv:2007.02890},
year = {2023}
}