利用敏感子空间鲁棒性训练个体公平机器学习模型
机器学习
2020-03-16 v2 机器学习
摘要
我们考虑训练在某种意义上公平的机器学习模型,即其性能对输入的某些敏感扰动保持不变。例如,简历筛选系统的性能应不受申请人性别和/或种族变化的影响。我们将这种算法公平性概念形式化为个体公平的一种变体,并发展了分布鲁棒优化方法以在训练期间强制实施它。我们还在两个易受性别和种族偏差影响的机器学习任务上展示了该方法的有效性。
引用
@article{arxiv.1907.00020,
title = {Training individually fair ML models with Sensitive Subspace Robustness},
author = {Mikhail Yurochkin and Amanda Bower and Yuekai Sun},
journal= {arXiv preprint arXiv:1907.00020},
year = {2020}
}
备注
ICLR 2020 (spotlight)