面向深度学习的个体公平性度量方法探析
人工智能
2020-09-30 v1 计算机与社会
摘要
深度学习在人工智能领域取得了重大进展，但训练好的神经网络往往反映并放大其训练数据中的偏差，从而产生不公平的预测。我们提出了一种称为预测敏感度的新型个体公平性度量，它近似刻画了特定预测对受保护属性的依赖程度。我们展示了如何利用现代深度学习框架中标准的自动微分能力来计算预测敏感度，并给出了初步的实证结果，表明预测敏感度可能有效地用于度量个体预测中的偏差。
引用
@article{arxiv.2009.13650,
title = {Towards a Measure of Individual Fairness for Deep Learning},
author = {Krystal Maughan and Joseph P. Near},
journal= {arXiv preprint arXiv:2009.13650},
year = {2020}
}
备注
Presented at MD4SG '20