机器学习人脸标注中的标注者偏差研究
机器学习
2024-10-25 v3 人机交互
摘要
在一个日益依赖人工智能的世界中，考虑人工智能对人类的伦理影响比以往任何时候都更为重要。一个关键且未被充分探索的挑战是标注者偏差，它会制造出固有的有偏数据集用于训练，并随后在医疗、就业、教育和执法中导致不准确或不公平的决策。因此，我们开展了一项研究，利用来自不同种族与性别的人物图像标注任务，调查并度量标注者偏差的存在。我们的结果表明，参与者持有影响其决策过程的刻板印象，且标注者的人口统计特征会影响所分配的标签。我们还讨论了标注者偏差如何影响数据集，并进而影响在其上训练的模型。总体而言，必须在整个人工智能训练过程中保持高度透明，以尽早识别并纠正数据中的偏差。
引用
@article{arxiv.2301.09902,
title = {Investigating Labeler Bias in Face Annotation for Machine Learning},
author = {Luke Haliburton and Sinksar Ghebremedhin and Robin Welsch and Albrecht Schmidt and Sven Mayer},
journal= {arXiv preprint arXiv:2301.09902},
year = {2024}
}