利用扩散扰动度量计算机视觉中的公平性

计算机视觉模型已知会编码有害偏见，导致对历史上被边缘化群体（如有色人种）的潜在不公平对待。然而，仍缺乏沿人口统计学特征平衡的、可用于评估这些模型下游公平性的数据集。在本工作中，我们展示可利用扩散模型创建此类数据集。我们首先使用扩散模型生成描绘各种职业的大批图像。随后，使用 inpainting 对每幅图像进行编辑以生成多个变体，每个变体对应一种不同的感知种族。使用该数据集，我们在多类职业分类任务上基准测试了若干视觉-语言模型。我们发现，用非高加索标签生成的图像比用高加索标签生成的图像具有显著更高的职业误分类率，且若干误分类暗示了种族偏见。我们通过计算不同感知身份群体间预测真实职业标签概率的标准差来度量模型的下游公平性。使用该公平性指标，我们发现被评估的视觉-语言模型间存在显著差距。我们希望本工作展示扩散方法用于公平性评估的潜在价值。