量两次，裁一次：深度神经网络中偏置与公平性的量化
机器学习
2021-10-12 v1 人工智能
计算机与社会
摘要
算法偏置正日益受到研究界及整个社会的关注。AI 中的偏置比传统歧视形式更抽象且反直觉，因而更难以检测和缓解。当前关于评估多类分类器性能中相对偏置的文献存在明显空白。在这项工作中，我们提出了两个简单而有效的度量——组合误差方差（CEV）和对称距离误差（SDE），用于定量评估两个模型相较彼此的按类偏置。通过评估这些新度量的性能并展示其实际应用，我们表明它们可用于衡量公平性与偏置。这些演示表明，我们的度量能够满足多类分类中衡量偏置的特定需求。
引用
@article{arxiv.2110.04397,
title = {Measure Twice, Cut Once: Quantifying Bias and Fairness in Deep Neural Networks},
author = {Cody Blakeney and Gentry Atkinson and Nathaniel Huish and Yan Yan and Vangelis Metris and Ziliang Zong},
journal= {arXiv preprint arXiv:2110.04397},
year = {2021}
}