包容性画像：具有种族意识的人机协同技术
人机交互
2023-11-08 v1 人工智能
摘要
人工智能已经革新了包括人员人脸自动核验在内的多种服务的处理。自动化方法在核验大量人脸时展现出了速度与效率，但在处理某些群体（包括有色人种群体）的内容时可能面临挑战。这一挑战促使了“人机协同”（HITL）方法的采用，即人类工作者与人工智能协作以最小化错误。然而，大多数人机协同方法并未考虑工作者的个体特征与背景。本文提出一种称为包容性画像（IP）的新方法，该方法结合围绕种族的社会理论，设计了一个具有种族意识的人机协同系统。我们的实验提供的证据表明，在用于人脸核验的人机协同（HITL）系统中纳入种族因素可显著提升性能，尤其是面向有色人种提供的服务。我们的发现还凸显了在设计人机协同系统时考虑工作者个体特征的重要性，而非将工作者视为同质群体。我们的研究对于开发更具包容性与公平性的、人工智能增强的服务具有重要的设计启示。
引用
@article{arxiv.2311.03567,
title = {Inclusive Portraits: Race-Aware Human-in-the-Loop Technology},
author = {Claudia Flores-Saviaga and Christopher Curtis and Saiph Savage},
journal= {arXiv preprint arXiv:2311.03567},
year = {2023}
}