中文

Lookism:计算机视觉中被忽视的偏见

计算机视觉与模式识别 2024-08-22 v1 人工智能 计算机与社会

摘要

近年来,计算机视觉取得了显著进展,推动了图像识别和生成系统在社会相关应用中的广泛部署,从招聘到安全筛查。然而,这些系统中偏见的普遍性引发了重大的伦理和社会关切。在此背景下,研究最为深入的偏见涉及性别、种族和年龄。然而,其他偏见同样普遍且有害,例如外貌歧视(lookism),即基于个人外貌对个体进行区别对待。外貌歧视在计算机视觉中仍未被充分探索,但可能产生深远影响,不仅通过延续有害的社会刻板印象,还通过削弱AI技术的公平性和包容性。因此,本文倡导将外貌歧视作为计算机视觉模型中一种关键偏见进行系统性研究。通过对现有文献的全面综述,我们确定了外貌歧视与计算机视觉的三个交叉领域。我们通过示例和用户研究来说明这些领域。我们呼吁采取跨学科方法来应对外貌歧视,敦促研究人员、开发者和政策制定者优先开发尊重并反映人类外貌多样性的公平计算机视觉系统。

关键词

引用

@article{arxiv.2408.11448,
  title  = {Lookism: The overlooked bias in computer vision},
  author = {Aditya Gulati and Bruno Lepri and Nuria Oliver},
  journal= {arXiv preprint arXiv:2408.11448},
  year   = {2024}
}

备注

Paper accepted at the ECCV 2024 workshop named "Fairness and ethics towards transparent AI: facing the chalLEnge through model Debiasing (FAILED)", https://failed-workshop-eccv-2024.github.io/