方向性偏差放大
机器学习
2021-06-09 v2 人工智能
摘要
减轻机器学习系统中的偏差需要细化我们对偏差传播路径的理解：从社会结构到大规模数据，到训练好的模型，再到对社会的影响。在这项工作中，我们关注问题的一个方面，即偏差放大：模型放大其所训练数据中存在的偏差的趋势。测量偏差放大的度量由 Zhao 等人（2017）的开创性工作引入；然而，正如我们所展示的，该度量存在若干缺陷，包括混淆不同类型的偏差放大以及未能考虑受保护属性的不同基率。我们引入并分析了一种用于测量偏差放大的新的解耦度量，（方向性偏差放大）。我们深入分析和讨论了该度量的技术假设与规范含义。我们就其测量提供建议：警示不要预测敏感属性，鼓励由于模型公平性在多次运行间的波动而使用置信区间，并讨论该度量所捕获内容的局限性。在本文中，我们致力于对偏差放大的技术测量进行审视，并以我们希望其涵盖内容的规范理念为指导。代码位于 https://github.com/princetonvisualai/directional-bias-amp
引用
@article{arxiv.2102.12594,
title = {Directional Bias Amplification},
author = {Angelina Wang and Olga Russakovsky},
journal= {arXiv preprint arXiv:2102.12594},
year = {2021}
}
备注
ICML 2021