以人为中心的多模态机器学习：近期进展与基于AI的招聘测试平台

当今社会，决策算法正迅速增多，同时人们对其透明度以及这些算法可能成为新的歧视来源的担忧也在上升。对于需要以人为中心的方法开发AI应用，已达成一定共识。以人为中心的机器学习需要基于四个主要要求来开发：（i）效用与社会效益；（ii）隐私与数据所有权；（iii）透明度与问责制；（iv）AI驱动决策过程中的公平性。这四个以人为中心的要求彼此密切相关。为了研究当前基于异构信息源的多模态算法如何受到数据中敏感元素和内在偏见的影响，我们提出了一个聚焦于自动化招聘的虚构案例研究：FairCVtest。我们使用一组包含图像、文本和结构化数据的多模态合成档案来训练自动招聘算法，这些档案被有意识地赋予了性别和种族偏见。FairCVtest展示了以此方式构建的自动招聘工具背后的AI（在许多招聘之外的其他应用场景中也是常见做法）从非结构化数据中提取敏感信息，并将其与数据偏见以不良（不公平）方式结合利用的能力。我们概述了近期开发能够从深度学习架构决策过程中移除敏感信息和偏见的技术的工作，以及常用于AI公平性研究的数据库。我们展示了为保障潜空间隐私而开发的学习方法如何能够导向无偏且公平的自动决策过程。