审计机器学习模型的个体偏差与不公平性
机器学习
2020-03-12 v1 机器学习
摘要
我们考虑审计机器学习模型个体偏差/不公平性的任务。我们将该任务形式化为一个优化问题，并针对最优值开发了一套推断工具。我们的工具使我们能够获得渐近置信区间和假设检验，其覆盖目标/控制第一类错误率精确成立。为展示我们工具的效用，我们使用它们揭示了Northpointe的COMPAS再犯预测工具中的性别与种族偏差。
引用
@article{arxiv.2003.05048,
title = {Auditing ML Models for Individual Bias and Unfairness},
author = {Songkai Xue and Mikhail Yurochkin and Yuekai Sun},
journal= {arXiv preprint arXiv:2003.05048},
year = {2020}
}
备注
In Proceedings of the 23rd International Conference on Artificial Intelligence and Statistics (AISTATS) 2020