探秘 AI 驱动的视频面试评估中的偏见：基于反事实推理
人机交互
2025-11-24 v2 计算机视觉与模式识别
图像与视频处理
摘要
AI增强的人格评估正日益影响招聘决策，通过情感计算预测来自 Big Five (OCEAN) 模型的特征。然而，将AI集成到这些评估中引发了伦理顾虑，尤其是关于根植于训练数据的偏见放大。这些偏见可能导致基于性别、族裔和年龄等受保护属性的歧视性结果。为此，我们引入了基于反事实推理的框架，用于系统性地评估和量化 AI 驱动的人格评估中的偏见。我们的方案采用生成对抗网络 (GAN) 生成反事实表示的人才候选者，通过改变受保护属性实现公平性分析，而无需获取底层模型。与专注于单模态或静态数据的传统偏见评估不同，我们的方法支持跨视觉、音频和文本特征的综合评估。这一全面方法在招聘等高风险应用中尤为重要，因为第三方供应商常以黑盒形式提供 AI 系统。应用于最先进的人格预测模型后，我们的方法揭示了不同人口统计学群体之间的显著差异。我们还通过使用受保护属性分类器验证了反事实生成的有效性。这项工作为审计商业 AI 招聘平台提供了可扩展工具，尤其适用于训练数据和模型内部不可接触的黑盒场景。我们的结果凸显了反事实方法在改善情感计算伦理透明度方面的重要性。
引用
@article{arxiv.2505.12114,
title = {Behind the Screens: Uncovering Bias in AI-Driven Video Interview Assessments Using Counterfactuals},
author = {Dena F. Mujtaba and Nihar R. Mahapatra},
journal= {arXiv preprint arXiv:2505.12114},
year = {2025}
}