迈向深度学习公平性的可审计性
机器学习
2020-12-02 v1 人工智能
计算机与社会
摘要
群体公平性指标能够检测深度学习模型对优势群体与弱势群体是否表现出不同行为，但即便在这些指标上表现良好的模型也可能做出明显不公平的预测。我们提出平滑预测敏感性（smooth prediction sensitivity），这是一种受深度学习可解释性思想启发、可高效计算的深度学习模型个体公平性度量。平滑预测敏感性允许对个体预测进行公平性审计。我们给出了初步实验结果，表明平滑预测敏感性有助于区分公平与不公平的预测，并可能有助于从“群体公平”模型中检测明显不公平的预测。
引用
@article{arxiv.2012.00106,
title = {Towards Auditability for Fairness in Deep Learning},
author = {Ivoline C. Ngong and Krystal Maughan and Joseph P. Near},
journal= {arXiv preprint arXiv:2012.00106},
year = {2020}
}
备注
Presented at the workshop on Algorithmic Fairness through the Lens of Causality and Interpretability (AFCI'20)