面向个体公平性的统计推断
机器学习
2021-04-01 v1 机器学习
摘要
随着我们依赖机器学习（ML）模型做出更具后果性的决策，ML 模型延续甚至加剧不良历史偏见（例如性别与种族偏见）的问题已引起公众关注。本文关注检测 ML 模型中个体公平性违规的问题。我们将该问题形式化为度量 ML 模型针对一种对抗性攻击的易感性，并为对抗代价函数开发了一套推断工具。这些工具使审计者能以统计原则的方式评估 ML 模型的个体公平性：为相似个体间的最坏情况性能差异构建置信区间，并以（渐近）非覆盖/第一类错误率控制检验模型公平性假设。我们在真实世界案例研究中展示了工具的效用。
引用
@article{arxiv.2103.16714,
title = {Statistical inference for individual fairness},
author = {Subha Maity and Songkai Xue and Mikhail Yurochkin and Yuekai Sun},
journal= {arXiv preprint arXiv:2103.16714},
year = {2021}
}