FairCVtest 演示：通过公平自动招聘测试平台理解多模态学习中的偏差
计算机视觉与模式识别
2020-09-16 v1
摘要
为研究当前基于异构信息源的多模态 AI 算法如何受数据中的敏感元素与内在偏差影响，本演示在一个基于简历的自动招聘测试平台 FairCVtest 上开展实验。当今社会中决策算法的存在迅速增加，同时人们对其透明度以及这些算法成为新歧视来源的担忧也在上升。本演示展示了招聘工具背后的人工智能（AI）从非结构化数据中提取敏感信息，并以不良（不公平）方式结合数据偏差加以利用的能力。此外，该演示包含一种用于歧视感知学习的新型算法（SensitiveNets），可在我们的多模态 AI 框架中消除敏感信息。
引用
@article{arxiv.2009.07025,
title = {FairCVtest Demo: Understanding Bias in Multimodal Learning with a Testbed in Fair Automatic Recruitment},
author = {Alejandro Peña and Ignacio Serna and Aythami Morales and Julian Fierrez},
journal= {arXiv preprint arXiv:2009.07025},
year = {2020}
}
备注
ACM Intl. Conf. on Multimodal Interaction (ICMI). arXiv admin note: substantial text overlap with arXiv:2004.07173